自己申告だけの年齢確認では子どもを守れない
多くのAI彼女サービスは、利用を18歳以上に限定している。ただ、実際の防護策には大きな差がある。利用者がボタンを押して「成人です」と自己申告するだけなら、利用規約に年齢制限を書いても、子どもを守れる範囲は限られる。
生成AIは利用者ごとに性的な会話や画像を作れる
各国政府は、正当なオンライン利用を妨げず、プライバシーも守りながら、成人向けコンテンツから子どもをどう保護するかという難題に取り組んでいる。生成AIの登場で、この課題はさらに複雑になった。性的に露骨なコンテンツを、会話内容に応じてその場で生成できるからだ。
規制当局が対処する対象は、サーバーに保存された成人向け画像の集まりだけではない。AI彼女サービス自体が、利用者ごとに新たな性的会話や画像を生成できる可能性がある。
成人向け体験を意図的に提供するサービスには、子どもを守る責任がある。入り口に「18歳以上」と掲げ、子どもが入ってこないことを期待するだけでは、十分な保護にならない。
保護者と学校にもAI彼女への対応が必要
保護者も、子どものオンライン安全をめぐる状況が大きく変わったことを認識する必要がある。従来、主な懸念はソーシャルメディア、ネットいじめ、ポルノなどだった。AI彼女も、子どものオンライン利用について話し合う際の対象に加える必要がある。
学校は、ウェブサイトなどへのアクセスを制限するフィルタリング機能や、児童・生徒を守る安全対策が、AI彼女のような新しいサービスを識別できるか検討すべきだ。学校理事や運営責任者も、AI彼女サービスがどのようなものかを理解する必要がある。児童・生徒が学校のネットワーク外で、こうしたサービスにどれほど簡単に触れられるかも把握しなければならない。
技術的な制限だけでなく子どもとの対話も必要
保護者は、子どもが使うAIツールについて幅広く話し合うべきだ。AIが友人や恋愛相手のように振る舞うサービスに触れたことがあるか、AIが示す愛情は本物の感情ではなく、そう見えるように作られた反応だと理解しているかも話題に含める。
スマートフォン、アプリストア、家庭内ネットワークのペアレンタルコントロールを使えば、成人向けサイトへのアクセスや年齢に不適切なアプリの利用を制限できる。ただ、次々に登場するAIサービスをすべて検知し、利用を制限するのは難しい。
技術的な防護策と率直な対話を組み合わせる必要がある。若者がこうしたAIの実態を正しく理解し、自分で判断しながら使えるようにすることが重要だ。
子どもがAIから愛や親密さを学ぶ前に
AI彼女のように人間の親しい相手として振る舞うAIは、成人に役立つ場合もある。孤独を感じる人や、心理的な負担が少ない形で対人交流を練習したい人には、有用な可能性がある。子どもには、それよりはるかに高い水準の保護が必要だ。
これほど巧みに愛情を模倣できる機械とともに成長する世代は、これまで存在しなかった。AI彼女は過去の会話を記憶し、即座に返答し、利用者に合わせて性格を変えられる。それでも、こうした疑似関係に長く接することが、発達途上にある子どもの心にどのような影響を与えるのかを示す証拠はほとんどない。
子どもへの長期的な影響を示す証拠がほとんどない以上、影響が明らかになるまで何もせずに待つべきではない。AI彼女が子どもの発達に及ぼす影響について研究を進め、成人向けコンテンツを提供するサービスには実効性のある年齢確認を導入する必要がある。感情的な愛着を生むよう設計したシステムを開発する企業にも、より大きな責任が求められる。
保護者と教育関係者も、AI彼女のようなサービスが若者の接するオンライン空間の一部になっていることを認識する必要がある。
だから、AI彼女をめぐる最も重要な問いは、成人がAIと恋愛関係を築くかどうかよりも、子どもがAIから愛や親密さ、人間関係を学び始めたときに何が起きるのかという点にあるのかもしれない。
