米国時間9月30日に発表された調査結果によると、オンライン上に存在する同意のないAI生成ポルノの数は、2023年の約50万件から2025年には800万件へと急増した。また、こうしたディープフェイク・ポルノは容易にアクセス可能な状態にあるという。
Journal of Online Trust and Safetyに掲載されたこの調査では、確認されたディープフェイク・コンテンツのほぼすべてが女性や少女を標的にしていることが判明した。
標的となったのは主にハリウッドやインド映画界のスターだった。さらにK-POPアーティストや著名なフェミニスト、活動家なども被害に遭っているという。
ディープフェイク・ポルノ88サイト、ネットインフラ企業5社が運営を支える
研究チームは、AIによって生成された同意のない性的画像を掲載している公開サイトを88件特定した。そのうち38件は、こうしたコンテンツを専門に扱うウェブサイトだった。
調査によると、これらのウェブサイトは5社のインターネット・インフラストラクチャ企業によってホスティングされていた。そのうちの1社であるCloudflareは特定されたサイトの半数以上にホスティングサービスを提供している。
また、調査対象となった88件のサイトのうち93％は、グーグルの標準的な検索を通じて容易にアクセスできる状態にあった。
法規制だけでは不十分、研究者はテクノロジー企業への圧力を訴え
ランカスター大学の主任研究員であるサラ・モーガンは、「AIによって生成された性的虐待コンテンツの爆発的な拡散を抑えるには、そうしたコンテンツの公開に寄与するテクノロジー・プラットフォームに圧力をかけることが最も効果的かもしれない」と指摘した。共著者のソフィー・ナイチンゲール博士も、「人々の人生を破壊する可能性のあるフェイク・コンテンツを作成、配信し、その共有を助長している加害者こそが非難されるべきだ」と付け加えている。
ディープフェイク・ポルノの共有、作成、それによる勧誘を禁じる法律は、すでに英国などで制定されている。しかし研究チームは、コンテンツをホスティングしたりアクセス可能にしたりしている企業に直接的な圧力をかけない限り、法律だけでこの問題に対処することはできないと主張している。
米「TAKE IT DOWN法」は48時間以内の削除を義務化、申し立ての負担は被害者が負う
米国では、2025年にドナルド・トランプ大統領の署名により超党派の「TAKE IT DOWN法」が成立した。これはディープフェイクを含む性的画像が同意なく共有された場合に被害者を保護する法律だ。同法はウェブサイトに対し、被害者からの通知を受けてから2日以内に同意のない性的画像を削除する手続きを確立するよう義務付けている。
しかし、削除にかかる負担の多くは依然として被害者に押し付けられており、被害者は見つけた画像や動画ごとに削除申請を行わなければならないのが現状だ。
