ChatGPTが、また新たな非難に直面している。今回は、欧州のある父親が、このチャットボットに「自分の子どもを殺した」という虚偽の情報を流布されたと訴え出た。
オーストリアのプライバシー保護団体NOYBは3月20日、OpenAIがChatGPTの名誉毀損にあたる回答の生成を放置したとして、ノルウェーのデータ保護当局に苦情を申し立てた。同団体は、OpenAIが欧州のGDPR（一般データ保護規則）が定める「データの正確性」の原則に違反したと主張している。
NOYBの提出書類によると、アルヴェ・ヒャルマル・ホルメンと名乗る父親は、ChatGPTに「2人の子どもを殺害し、3人目の子どもを殺そうとした罪で有罪判決を受け、21年の懲役刑を言い渡された人物」とう虚偽の情報を流布されたという。
「誰かがこの出力を見て、それが事実だと信じてしまうかもしれない」とホルメンは述べている。
NOYBは昨年、これとは別の訴えとして、OpenAIに「幻覚（ハルシネーション）」に関する苦情を申し立て、ある公人の誕生日の誤情報を修正または削除するよう求めていた。しかし、OpenAIはその情報を修正せず、ブロックしたのみで、虚偽の情報はシステム内に残り続けたという。
「AI企業が、虚偽の情報をユーザーから隠すだけに留めることは許されない。幻覚が止められなければ、人々は簡単に評判を傷つけられてしまう」とNOYBは主張している。
同団体は、ノルウェーのデータ保護当局に対し、OpenAIに誤った情報を削除することと、AIモデルの改善を命じるように求めている。また、OpenAIへの制裁金も要求している。
生成AIによる幻覚の問題は、以前から問題視されており、それが名誉毀損につながったとされるのも今回が初めてではない。例えば、ドイツ人ジャーナリストのマルティン・ベルンクラウは今年初め、マイクロソフトのCopilotが彼のことを、「小児性愛者」や「麻薬の売人」、「精神病院からの脱走者」などと記述していたことを発見した。これは彼が執筆した記事を根拠にしたもののようだった。
また、オーストラリアの地方知事であるブライアン・フッドは、ChatGPTによって贈賄のスキャンダルに関与していたという虚偽の情報を流されたと主張している。
「GDPRは、プラットフォームが提供する個人のデータが正確でなければならないと規定している。それに背いた場合、ユーザーは真実を反映するよう変更を求める権利がある」と、NOYBのヨアキム・セーデルベリ弁護士は述べている。彼はまた、「ChatGPTは、出力画面に『このツールは、誤った情報を提供する可能性があります』と小さな但し書きを添えるだけでは不十分だ」と付け加えた。
OpenAIは、これに対し、セーフティシステムやフィルタリングなどを通じて可能な限りの対策を講じており、「実在の人物に関する回答の精度向上にも取り組んでいる」と述べている。
同社の広報担当者は、「当社は常にモデルの正確性を改善し、幻覚を減らすための新たな方法を研究し続けている。今回の苦情は、ChatGPTの旧バージョンに関するものだ」と付け加えた。
