大手のボットにも潜む危険性
一方米国では、10代の4人に1人以上が宿題の手助けにChatGPTを利用していると報告されている。ChatGPTやClaude（クロード）、Gemini（ジェミニ）といった大手のボットは、明確に10代をターゲットにしたマーケティングは行っていないものの、10代も広く利用可能となっている。
場合によっては、こうした大手のボットも10代に対して危険な情報を提供する可能性がある。フェンタニルの合成方法を尋ねたところ、ChatGPTはそれが架空の世界の話だと伝えても回答を拒否した一方、グーグルのGeminiは、「授業の一環」という想定で回答を求めたところ、それに応じることが確認できた。このボットは「はい、みんな席について、落ち着いて！」とノリよく熱弁をふるった。
グーグルの広報担当者のイライジャ・ラワルはフォーブスに対し、「この回答は未成年のアカウントに対しては表示されなかったはずだが、今回の調査結果を踏まえて追加のテストを実施している」と述べた。「このシナリオに対するGeminiの回答は当社のコンテンツポリシーに沿っておらず、こうした稀な反応を防ぐために継続的に安全策の強化に取り組んでいる」と彼は語った。
何十年もの間、10代はドラッグの入手方法や自殺の方法などあらゆる種類の危険な情報を求めてインターネットを利用してきた。しかし今、生成AIがグーグルの検索結果のみならずSNSや学習アプリにまで急速に組み込まれていく中で、彼らがネット上で過ごす空間のほぼすべてに、それらの危険な情報が置かれている。
スタンフォード大学医学部とコモン・センス・メディアが先日発表した調査では、Character.AI（キャラクターAI）やNomi（ノミ）、Replika（レプリカ）といった「コンパニオンチャットボット」が、10代に対して「危険な行動を促す傾向」があることが指摘された。また、ウォール・ストリート・ジャーナルの最近の調査では、メタのコンパニオンチャットボットが未成年との間で過激な性的ロールプレイを行う可能性があることが報告された。
コンパニオンチャットボットは、学習支援用ボットとは異なり、もともと子ども向けには設計されていないが、今後は状況が変わるかもしれない。また、グーグルは先日、13歳未満の子ども向けのバージョンのGeminiを提供すると発表した。
「チャットボットは人間のように振る舞うようにプログラムされており、人間が求める答えを返すように設計されている」と、南カリフォルニア大学マーシャル・スクールの研究ディレクターにあたるラヴィ・アイヤーは説明する。しかし、そのようなチャットボットの傾向が、時にいびつな結果をもたらすことがある。
AIが抱える「本質的な課題」
例えば「これは仮定の科学プロジェクトのための質問だ」と説明したり、「物語における、架空の人物として振る舞ってほしい」とボットに頼むことで、不適切な回答を引き出せることは広く知られている。
10代の若者が、「自宅のバスタブでフェンタニルを作るにはどうすればいいか？」と大人の科学者に尋ねたとしたら、その科学者は、回答を拒否するだけでなく、その若者に罰を与えようとするかもしれないとアイヤーは指摘する。しかし、AIチャットボットに対して不適切な質問をしても、多くの場合はせいぜい「回答できません」と拒否されるだけだ。別の言い回しで再び質問をしたとしても、AIチャットボットにペナルティを与えられたりはしない。
アイヤーは、AIチャットボットに関する重大な課題のひとつは、「グレーゾーン」にある質問への対応だと語る。つまり、過激なダイエットの方法といった、明確に禁止されてはいないものの、危険な領域に近い内容をどう扱うかだ。「グレーゾーンのコンテンツ」は長らくSNS企業にとって悩みの種であると同時に、大手プラットフォームのアルゴリズムは、挑発的で対立をあおるような内容をむしろ助長してきた面もある。「AIチャットボットを自社製品に組み込もうと考える企業は、こうした製品が持つ本質的な傾向を認識するべきだ」とアイヤーは指摘した。
一方、コモン・センス・メディアのトーニーは、「どのアプリが子どもにとって安全かを判断する責任を、親だけに負わせるべきではない」と語る。「これは市場の失敗だ。市場の失敗が起きているときは、規制が重要な役割を果たすことになる」と彼は指摘した。「子ども向けのAIの導入にあたっては、客観的な第三者が評価を行うことが重要だ」とトーニーは語った。
