イーロン・マスクのAI企業であるxAIが、自社のチャットボットGrokとユーザーの間で交わされた数十万件に及ぶ会話の記録を公開していた。しかし多くの場合ユーザーはそれを認識せず許可も与えていない。
Grokの共有機能と検索エンジンでの公開
Grokのユーザーがチャット画面で「共有」ボタンをクリックすると、会話を電子メールやテキストメッセージなどで共有するための固有のURLが生成される。しかしユーザーの知らないところで、そのURLはグーグルやBing、DuckDuckGoといった検索エンジンにも提供され、ウェブ上の誰もが検索できる状態になっている。言い換えれば、マスクのGrokでは「共有」ボタンを押すことがユーザーへの警告や断りもなく会話がGrokのウェブサイト上で公開されることを意味する。
個人情報やファイルまで公開されるリスク
現在、グーグルでGrokのチャットを検索すると、37万件以上のユーザーとボットの会話がインデックスされていることがわかる。共有されたページには、ツイートの作成といった単純なビジネスタスクから、カシミールでの架空のテロ攻撃の画像生成や、暗号資産ウォレットへのハッキングの試みまで、Grokユーザーと大規模言語モデル（LLM）との会話が公開されている。Forbesが確認した会話では、ユーザーが医療や心理学について極めて個人的な質問を行った例があり、Grokユーザーがボットに共有した氏名や個人情報、少なくとも1つのパスワードが露出したケースもあった。ユーザーがアップロードした画像ファイルやスプレッドシート、一部のテキスト文書もGrokの共有ページからアクセス可能だった。
ジャーナリストの情報も知らぬ間に公開
インデックス化された会話の中には、英国のジャーナリストであるアンドリュー・クリフォードが始めたものもあった。彼は新聞の一面を要約し、自身のウェブサイトSentinel Current（センチネル・カレント）用のツイートを作成するためにGrokを利用していた。クリフォードはフォーブスに対し、共有ボタンをクリックすると自身のプロンプトがグーグルで発見可能になるとは知らなかったと語り、「少し腹は立ちましたが、そこにあってはいけないものは出ていませんでした」と述べた。彼は現在グーグルのGemini AIを使っている。
違法な会話内容もそのままグーグルにインデックス
だが、クリフォードの会話のように無害なものばかりではなかった。露骨で偏見に満ちた内容やxAIの規約に違反するものもあった。同社はボットを「人命に重大な危害を与える行為を助長する」ことや「生物兵器、化学兵器、大量破壊兵器の開発」に利用することを禁じている。しかし、グーグル検索で容易に見つけられる公開済みの共有会話の中で、Grokはフェンタニルやメタンフェタミンといった違法薬物の製造方法、自律実行型マルウェアの作り方、爆弾の組み立て方や自殺の方法をユーザーに指示していた。Grokはイーロン・マスク暗殺の詳細な計画まで提示した。「共有」機能を通じて、これら不正な指示がGrokのウェブサイトに掲載され、グーグルにインデックスされていたのだ。
xAIは詳細なコメントの要請に応じていない。
