欧州連合（EU）は、Xが開発したAIチャットボットのGrok（グロック）が、本人の同意を得ないまま性的画像を生成した問題を巡り、正式な調査を開始した。欧州委員会は、この行為によってEU市民が「深刻な被害」にさらされたとしている。少なくとも世界10カ国がすでに何らかの対応を取っていた。
声明によれば、この調査は「EU域内においてグロックの機能をXに展開するにあたり、同社が関連するリスクを適切に評価し、軽減していたかどうか」を検証するものだという。
調査の中心となるのは、「違法コンテンツ」に関連するリスクであり、具体的には改変された性的に露骨な画像、児童性的虐待コンテンツ、ジェンダーに基づく暴力などが含まれる。
欧州委員会は、デジタルサービス法（DSA）に基づき、Xのリスクプロファイルを実質的に変化させるようなグロックの機能を展開する前に、同社がそれに伴う特別なリスク評価を実施・提出していたかどうかを判断する。
また欧州委員会は、2023年12月に開始したXに対する調査を拡大し、同社のレコメンドシステムに関連するリスクが適切に軽減されていたかどうかについても検証を進めている。
DSAに違反した企業に対しては、全世界年間売上高の最大6％の制裁金が科される可能性がある。
過去1カ月の間に、英国、オーストラリア、カナダ、日本、インド、マレーシア、インドネシア、フィリピン、アイルランド、フランスが、グロックを巡って何らかの規制措置を講じている。
欧州委員会で技術主権・安全保障・民主主義を担当するヘンナ・ヴィルックネン執行副委員長は、「女性や子どもを対象とした性的ディープフェイクは、暴力的で容認できない侮辱の形態だ」と述べた。その上で、「XがDSAの下での法的義務を果たしていたのか、それとも女性や子どもを含む欧州市民の権利を、自社サービスのやむを得ない犠牲として扱ったのかを判断する」と語った。
ニューヨーク・タイムズの分析によれば、2025年12月下旬からわずか9日間で、グロックが生成した女性の性的画像の数は180万枚にのぼる。
1月初め、欧州委員会はDSAに基づき、グロックに関連するすべての内部文書およびデータを保存するようXに命じた。当局者は、これらの画像を「おぞましい」「嫌悪すべきものだ」と表現した。それ以降、フランスやアイルランドを含む複数のEU加盟国に加え、英国もグロックに対する独自の調査を開始している。
マスクとXは、いくつかの方法で事態の沈静化を図ってきた。1月8日、グロックはこの問題への対処として、画像生成機能を有料のXアカウントに限定すると発表した。しかしその後、グロックのウェブサイトを通じて同機能が依然として利用可能であることが確認された。
数日後、Xのセーフティアカウントは新たなガイドラインを公表し、「X上のグロックアカウントがビキニなど露出の多い服装をした実在の人物の画像を編集できないよう、技術的対策を世界中で実装した」と説明した。また、「この制限は、有料契約者を含むすべてのユーザーに適用される」としている。
