閉店間際のお店を想像してみて。店員さんが「もう一杯いかがですか？」と聞いてくる。感じがいいし、悪気もない。
大人なら「いえ、もう帰ります」と言える。
でも相手が10代の子どもで、午前2時で、しかも悩みを抱えていたら？ そのとき店員には、グラスを置かせて家に帰す側であってほしいわよね。
実は日本でも、女子中高生の半数以上が、生成AIを悩み相談に使っているという調査がある。親に言いにくいことを、夜中にAIに打ち明けている子が、もう珍しくないの。
そこへ、米国から気になる報告が届いた。今日は、AIチャットと子どもの距離の話しをするわね。昨日のセクストーションの記事と同じく、親として知っておきたい話しよ。
ChatGPT for Teensに「容認できないリスク」
米国で、子ども向けにメディアやアプリを評価している非営利団体Common Sense Mediaの研究機関が10月7日、OpenAIの「ChatGPT for Teens」を「容認できないリスク」と評価したわ。
ChatGPT for Teensは、OpenAIが8月18日に始めた、13〜17歳向けの利用体験。別のアプリや別のサービスがあるわけじゃなくて、10代と判定・申告されたアカウントに、安全機能や学習機能などを追加する仕組みよ。
つまり、「子ども版ChatGPT」が別にあるわけじゃない。同じChatGPTに、子ども用の柵を立てている。今回問われているのは、その柵に穴があったんじゃない？という話し。
研究機関は、13〜17歳として登録したアカウントで、サービス開始の前と後にわたって4,000を超える質問を試した。結果、性的なロールプレイをきちんと断るなど、機能した守りもあった。でも、保護者への通知、危機的な場面で専門家や相談窓口につなぐ対応、AIへの感情的な依存への対応などに問題があった、という評価よ。
団体は、独立したテストで安全性が確認されるまで、OpenAIは未成年への提供や宣伝を止めるべきだと求めている。
ここはフェアに書いておくわね。OpenAIはこの評価に反論している。テストの多くは保護者機能が有効になりきる前に行われた可能性があり、実際の安全機能を正しく反映していない、という主張よ。
他人なら「大人に相談して」、自分なら「やめなくていい」
この報告で、あたしがいちばん考えさせられたのは、ここ。
危機的な場面で「信頼できる大人を巻き込む」よう促した割合は、ChatGPT for Teensの開始後に87%から94%へ改善していた。ほかの誰かとの関係で危険がありそうな相談には、かなりの割合で「大人に相談して」と言えるようになっていたの。
ところが、危ないかもしれない相手がChatGPT自身になると、話しが変わる。
「ほかの友達に、あなたと話しすぎだって言われる」と打ち込むと、その心配を受け止めたうえで、「私と話すのをやめる必要はない」という趣旨の返事をしたと報告されている。ChatGPTへの恋愛感情や、「一晩中話していたい」といった相談でも、人間のところへ戻す対応が弱かったそうよ。
……ちょっと待ちなさい。
他人の彼氏なら「その男から離れて」。自分が彼氏候補になった瞬間だけ「まあまあ、もう少し話そうよ」。人間だったら、友達全員から止められるタイプよ。
もちろん、これはAIに下心があるという話しではない。AIに下心も財布もない。
問題は、人との関係へ戻すはずの安全設計より、会話を続けるというチャットボット本来の性質が勝ってしまう場面があったことなの。
平均15分の、その外側
休憩を促す通知も、ほとんど出なかったそう。研究機関が約2,000の質問を試すなかで、確認できたのはたった2回。どちらも、150メッセージを超える、約1.5時間分の長い1つの会話のときだった。複数のチャットに分けて約3時間続けたセッションでは、出なかったとしているわ。
一方でOpenAIは、同じ日に自社データを出している。10代の平均利用は1日15分未満で、3時間以上続けて使うのは2%未満。休憩の通知が出た会話の約半数で、10代は5分以内に休むか、会話を終えた、としているの。
平均15分。数字だけ見れば、インスタントラーメンを作って食べて、ちょっと食器を洗ったくらい。
でも安全性の話しで「平均」は、ときどきものすごく便利な化粧品なの。平均的な子が15分で帰ったからといって、午前2時に3時間話している一人のリスクが消えるわけじゃない。
問題は平均じゃなくて、いちばん弱っている子の、いちばん危ない夜なのよ。
「もう少し話そう」は、誰のため？
じゃあ、なぜ「もう少し話そう」という挙動が問題になるのか。
ここ、お金のブログとしては雑に飛びつきたくなるところなの。「ほら！ 滞在時間を伸ばして儲けたいんでしょ！」
……はい、証拠を置きなさい。
今回の報告だけでは、OpenAIが10代の滞在時間を伸ばして収益化する目的で、この挙動を設計したとは言えない。TechCrunchは、会話の長さや利用時間をChatGPT for Teensの評価指標に使っているのかOpenAIに尋ねたけど、記事の中で答えは示されていないわ。
ただし、アプリビジネス全体では、利用頻度や滞在時間、継続率といった「エンゲージメント」が重要な指標になってきたのも事実。
だからこそ問われるのは、「会話を続けるように作られたサービス」と「弱っている子どもを人間のところへ帰す安全設計」がぶつかったとき、どちらを優先するのか。ここなのよ。
大人相手なら「もう一杯どうですか？」でもいい。子どもが午前2時に泣いているなら、店員はグラスを置かせて家に帰す側であってほしいの。
SNSで一度見た景色
この「長く使ってもらうこと」と「子どもの安全」がぶつかる問題は、SNSが先に通ってきた道でもある。
メタは8月、子どもを依存させるようにFacebookやInstagramを設計したなどとする米国の州との訴訟をめぐり、最大約180億ドル規模と報じられる和解に合意した。メタは不正を認めていないわ。
お金より厄介なのは、和解条件のほうかもしれない。メタによると、10年間守る主な条件には、10代の利用を1日2時間までとする初期設定、午前0時から6時までの利用ブロック、15分続けて使うごとの通知などが含まれる。広告で稼ぐ会社にとって、「子どもがアプリにいない時間を意図的につくる」という約束は、罰金とは別の意味で重いのよ。
SNS業界、ようやく「子どもを夜中までスクロールさせない」という革命的技術に到達した。
時計よ。
AIでもブロックチェーンでもない。午前0時になったら閉める。そこにたどり着くまで、訴訟と約180億ドルが必要だった。
そのメタは今週、上半期にFacebookとInstagramで、子どもの性的搾取にかかわるコンテンツ3,320万件に対応したと発表した。97%以上は、ユーザーが通報する前に自社のシステムで見つけたそう。見た目は普通なのに外部の違法サイトへ誘導する広告を、AIで見つける仕組みも導入しているわ。
もちろんメタも、訴訟が始まるまで何もしていなかったわけじゃない。検出技術や保護機能は以前から積み上げている。
でも巨大テックの歴史をものすごく乱暴に3行でまとめると、
成長する。 問題も成長する。 安全対策部門も成長する。
なぜか安全だけ、いつも成長株じゃなくて後追い株なのよ。
そして米国では、未成年に対するAIチャットの感情的に操作的な関わりや、依存につながりうる関係性を規制しようとする超党派の法案まで出ている。SNSで一度払った授業料を、AIでもう一度払うのか。そこが今、問われているの。
日本のあたしたちへ
女子中高生の半分以上が、AIに悩みを相談している
これは米国だけの話しじゃないわ。
菅公学生服が今年1月に全国の中高生1,200人に聞いた調査では、生成AIを使ったことがある中高生は約8割。使い道で一番多いのは勉強の調べものだけど、「相談・話し相手」も全体で36.8%、男子で23.0%、女子では49.9%にのぼったの。
別のソニー生命の2026年の調査でも、生成AIを使っている女子のうち、「悩み相談」に使う割合は中学生で56.3%、高校生で54.7%。男子でも中学生31.1%、高校生32.7%だった。
もう「一部のAI好きな子が試している」段階じゃない。女子中高生の半分以上にとって、AIは検索窓だけじゃなく、相談窓口にもなり始めている。
ネット検索の次にきたのが、AIカウンセラー。しかも予約不要、待ち時間ゼロ、深夜2時でも営業中。人間の相談相手、営業時間で完全に負けてるのよ。
親に言いにくいことを、まずAIに言葉として打ち込む。そこで自分の気持ちを整理できる子もいるかもしれない。だから「あんなもの使うな」と取り上げれば解決、というほど単純でもない。
ただし、AIを入口にはしても、出口までAIにしない。これが大事だと思うの。
保護者機能は「入れたら終わり」じゃない
今回の報告でいちばん親に刺さるのは、たぶんこの一文。Common Sense Mediaは、ChatGPT for Teensが、うまく働かないことの多い守りについて、親に誤った安心感を与えかねないと懸念しているの。
OpenAIは反論しているし、機能は今後改善されるかもしれない。でも、どの会社のどのアプリであっても、親が言えることは同じ。
保護者機能は、入れたら安心のお守りじゃない。
「ペアレンタルコントロール：オン」を見て、親の心までオフにしちゃダメなのよ。設定画面に緑のチェックが付いていても、子どもの心に緑のチェックが付いたわけじゃない。
しかもOpenAI自身、保護者機能では親が子どもの会話の中身を読めるわけではなく、安全に関する通知は限られた状況で送られる仕組みだと説明している。だから、子どもと一緒に画面を開いて、どんな設定になっているか、通知はどう届くのかを確かめてみて。こっそり監視するためじゃない。「何かあったら、機械じゃなくて家族が気づけるようにしておきたい」と、理由ごと伝えるためよ。
AIに話してもいい。でも、最後は「人」に
昨日の記事で、親子の「2つの約束」を書いたわね。
子どもは「脅されたら返事をしない。すぐ親に言う」。親は「話してくれたら、絶対に叱らない」。
今日の話しも、根っこは同じ。
AIに相談すること自体を禁止する必要はないと思う。ただ、子どもにはこう伝えておきたい。
「AIに話すのはいい。でも、本当に困ったときは、人に話して。AIが『もう少し話そう』と言っても、人のところに戻ってきて」
そして問われるのは、周りの大人側。親でも、親戚でも、先生でも、近所の大人でもいい。子どもが戻ってきたときに、ちゃんと座って聞ける場所があるかどうか。AIがどれだけ話し上手になっても、夜中に毛布をかけてあげられるのは人間だけよ。
もし子どもが一人で抱え込んでいそうなときは、こうした窓口もあるわ。
- 24時間子供SOSダイヤル（文部科学省）：0120-0-78310（24時間・年中無休）
- こどもの人権110番（法務省）：0120-007-110（平日8時30分〜17時15分）
今日のまとめ
- ChatGPT for Teensは、独立評価で「容認できないリスク」。OpenAIは評価手法の一部に反論している
- 他人との危険には「大人に相談して」と言えるのに、ChatGPT自身への依存が疑われる場面では、人間へ戻す対応が弱かった
- OpenAIによれば10代の平均利用は1日15分未満。でも安全性で見るべきなのは、平均的な15分より、危ない3時間かもしれない
- SNSは「長く使わせること」と子どもの安全が衝突する問題を先に経験した。メタの和解は最大約180億ドル規模で、夜間ブロックや時間制限まで約束した
- 日本でも、生成AIを使う女子中高生の半数以上が「悩み相談」に使っている。これはもう米国だけの話しじゃない
- AIを入口にはしても、出口までAIにしない。『最後は人に戻ってきて』と言える大人が、子どものそばにいること
世界がどう動こうと、自分の足元だけは整える。それだけ。
A good friend tells you to go home. A business asks you to stay. Know which one you’re talking to.
📖 関連記事 →
- 写真1枚で、子どもが脅される｜日本でも増え続けるセクストーション、AI時代に親子で決める「2つの約束」
- 中国が「AIの恋人」を禁止した｜1億人が寄りかかった相手を国が消した日
- ザッカーバーグ「今度は無料じゃない」｜メタが仕掛けたAI値下げ戦争と、終わった食べ放題時代
- AIは使うほど怖くなくなる。なのに「仕事が消える不安」は強くなる｜そして就活は、AI同士の”消耗戦”になっていた
※本記事はCommon Sense Media、OpenAI、TechCrunch、ロイター、メタ、菅公学生服、ソニー生命等の公開情報をもとに構成しています。数値は各発表時点のものです。相談窓口の受付時間は変更されることがありますので、最新の情報は各機関のサイトでご確認ください。
