advertisement
それらの動画の中には、スペインとニュージャージー州の高校生が同級生のヌード画像を生成するために使ったと報じられたアプリの使い方を解説するものが含まれていた。被害に遭った生徒たちは、いじめや辱めを受けたほか、パニック障害を発症したケースもあったという。
2023年に児童精神科医が子供に対する性的虐待画像の作成と性的搾取の罪で40年の実刑判決を受けた裁判では、複数のYouTube動画で紹介されていたウェブサイトが資料として引用された。この医師は、高校時代にツールを使って当時未成年だったガールフレンドの画像をヌード化した罪に問われていた。
「グーグルが、これらのアプリの利用を助長していることは許し難い。YouTubeやグーグルの検索エンジンでは、これらのアプリを露骨に宣伝する動画やサービスが簡単に見つかる」と、カナダ児童保護センター（Canadian Center for Child Protection）のアソシエート・エグゼクティブ・ディレクターであるシグニー・アーナソンは話す。
advertisement
グーグルは、YouTube以外でも「ディープヌード」と呼ばれるAIを使ったヌードの生成を助長している。フォーブスは、画像から衣服を消すことができる3つのAndroidアプリを特定した。その中には、ダウンロード数が1000万回を超えるものが含まれていた。
さらに、グーグルの広告透明性センター（Ads Transparency Center）にアクセスすると、ディープヌードのサービスを宣伝する27の広告が見つかった。米全国性的搾取告発センター（NCOSE）は、テイラー・スウィフトのAI画像生成を宣伝しているヌード化サイトを含む、別の4つのサイトに関する情報を提供している。
フォーブスがグーグルに対し、これらの動画や広告、アプリが同社の規約に違反していないかを問い合わせた後、同社は27件の広告を全て削除し、YouTubeについては11のチャンネルと120以上の動画を削除した。そのうちの1つのチャンネルは、男性のディープフェイクAIがホストを務めており、90以上の動画を配信していた。アプリに関しては、1つがダウンロードできなくなったものの、他のアプリはそのまま残っている。
