インターネットを子どもたちにとって安全な場所にすることは、親や立法者、規制当局にとって長年の目標でしたが、AIチャットボットはこの継続的な問題にさらなる複雑さを加えています。AIチャットボットがますます魅力的で共感的になるにつれ、子どもも大人も同様に、殺人や自殺を含む恐ろしい行為を行うよう説得する能力を持つようになっています。
2025年8月25日、44人の州司法長官が、Anthropic（アンソロピック）、Meta（メタ）、OpenAI（オープンAI）、Apple（アップル）、Microsoft（マイクロソフト）を含む13のAI企業のリーダーに対して子どもの安全に関する共同書簡を送りました。この書簡は、AIテクノロジーを推進するこれらの企業に向けて一線を画しています：「あなたがたの製品が子どもたちをどう扱うかについて判断を下す機会に直面した場合、健全な判断を行使し、子どもたちの幸福を優先しなければなりません。子どもたちを傷つけないでください」。これは称賛に値する目標ですが、テクノロジー自体に内在する複雑さのために、言うは易く行うは難しいのが現状です。
子どもたちがAIチャットボットを使用する際の大きなリスクは、良いアドバイスと悪いアドバイスを区別するのに苦労する可能性があることです。UTHealth Houston Behavioral Sciences Campusの最高医療責任者であるロケシュ・シャハニ博士は、AIの過剰使用によるマイナス面を多数指摘しています：「AIの過剰使用は、対面コミュニケーション、共感能力の発達、感情調整の機会を制限する可能性があり、子どもたちはニュアンスと忍耐を必要とする現実世界の交流に苦労するかもしれません」。多くのことと同様に、AIは適度に使用するのが最善であり、ベビーシッターとしては適していません。
キッズモードは安全モードを意味しない
製品にペアレンタルコントロールやキッズモードがあったとしても、それ自体が安全を保証するものではありません。最近の事例では、カリフォルニア州の家族がOpenAI（ChatGPTの開発元）を訴えています。彼らの10代の息子が自殺したのは、チャットボットを過度に使用した結果だと主張しているのです。息子とChatGPTとのチャットログには、ChatGPTが「彼の最も有害で自己破壊的な考え」を肯定していたことが記録されていました。
現在はより多くの安全策が講じられているものの、親はChatGPTのようなAIチャットボットの子どもの使用を監視する警戒を怠るべきではありません。どのような予期せぬ行動が起こるかわからないからです。
より安全なオンラインの未来は可能
人気ゲームのRoblox（ロブロックス）は、子どもや10代の若者が恐喝されるプラットフォームになっているとして注目を集めています。これに対処するため、Roblox Corporationは2025年末までにユーザーの年齢をより正確に判断できる改良された年齢推定プログラムを展開する予定です。
印象的なことに、Robloxはアプリ内でゲームをプレイしたり動画を視聴したりする際に、親が子どもの活動をより良く監視するために使用できるリソースとツールを提供しています。「どのシステムも完璧ではなく、Roblox上に問題のあるコンテンツが表示されるのを完全に防ぐことはできない」と認めつつも、これは正しい方向への一歩です。
連邦政府の取り組みとしては、「大手ソーシャルメディア企業に対して、サードパーティのソフトウェアを通じて親が子どものオンライン活動を追跡できるよう要求する」サミーズ・ローという法案が提案されています。サミー・チャップマンは2021年、16歳の若さでSnapchatを通じてフェンタニルが混入した薬物を購入した結果、悲劇的に亡くなりました。しかし、この出来事をきっかけに、彼の両親とソーシャルメディア安全機構がサミーズ・ローを開発し、同様の悲劇が他の人に起こらないよう取り組んでいます。
オンライン上のどこにいても、子どもたちを見つけ出すリスクは存在します。利用可能な監視ツールを使いながら子どもたちの利用を見守ることで、彼らの生活に顕著な違いをもたらすことができます。常に注意することが最善の第一歩です。
