イーロン・マスクが所有するXは米国時間1月14日、AIチャットボット「Grok」の画像生成機能について、実在の人物を露出度の高い服装で描写する画像の作成を制限したと発表した。これは同社が数週間前、性的に強調された児童の画像や、同意のないヌード画像を生成していたとして批判を浴びていたことを受けた対応である。
同社の公式アカウント「Safety」による投稿には、「水着など露出度の高い服装を着た実在の人物の画像編集を、Grokのアカウントが許可しないようにする技術的措置を実装した」と記されている。
この制限は、有料契約者を含むすべてのGrokユーザーに適用されるという。
一方で同社は、Grokのアカウントを通じた「画像生成および画像編集機能」については、有料契約者のみに制限したとも述べている。
しかし、米国記事公開時点では、Grokのウェブサイト上で、無料ユーザーも画像生成機能にアクセスできる状態が続いていた。
さらに同社は、法律で禁止されている地域においては、「GrokのアカウントおよびX上のGrokを通じて、水着、下着、これに類する服装を着た実在の人物の画像を生成することを、すべてのユーザーに対して地理的に遮断する（編注：地域制限の実施）」と付け加えた。
しかし、この声明では、どの国が地理的な遮断の対象となるのかは明示されていない。
Grokの最近のタイムラインを調べたところ、英国のキア・スターマー首相の画像について、スーツを水着に差し替えるよう求めたユーザーの要請に応じた事例が、少なくとも1件確認された。
さらに、ザ・ヴァージは、XおよびGrokのモバイルアプリやウェブサイトを使えば、「女性を簡単に裸にしたり、性的に強調されたポーズに編集したりすることが、今なお極めて容易だ」と報じている。同メディアの英国拠点の記者は、自身がアプリの利用をブロックされることもなく、「自分自身の性的ディープフェイク」を作成できたと述べている。
14日の早い時間には、Xのオーナーであるイーロン・マスクが、Xが児童性的虐待資料（CSAM）を生成しているとの報道の真偽に疑問を呈し、「Grokが生成した未成年者の裸の画像については、私は一切把握していない。文字通りゼロだ」と書き込んだ。さらに、「明らかに、Grokは自発的に画像を生成するわけではなく、ユーザーの要求に基づいてのみ生成する。画像生成を求められた場合でも、違法なものは拒否する。Grokの運用原則は、各国や各州の法律を遵守することにある」と付け加えた。
マスクはその後、問題の原因をプラットフォームのユーザーに帰するような発言も行い、「敵対的なハッキングによって、Grokへのプロンプトが予期せぬ動作をすることはあり得る。その場合は、直ちにバグを修正する」と述べた。
同じく14日、スターマー首相は、同意のない性的画像の生成を遮断することで、Xが英国の法律を遵守するための対応を進めていると述べた。「我々は、これらの画像が違法であり、忌むべきものであり、対処が必要であることをXに明確に伝えてきた。Xが英国の法律を完全に遵守するために行動しているとの報告を受けている。もしそうであれば歓迎すべきことだが、我々は引き下がらない。彼らは行動しなければならない」と語った。
これに先立ち、14日には、カリフォルニア州司法長官ロブ・ボンタが、「Grokを使って生成された同意のない性的に露骨な素材の蔓延」をめぐり、Xに対する調査を開始したと発表した。この発表では、マスクが率いるxAIについて、「インターネット上で女性や少女を嫌がらせするために使われている、同意のない個人的なディープフェイク画像の大規模な制作を助長している」と非難している。
ボンタは声明の中で、この問題について「雪崩のような数の通報」を受け取っていると述べ、調査では「xAIがどのように、そして法律に違反したのかを判断する」とした。
