性的な画像を使って金銭を脅し取る「セクストーション」は、かつて被害者をだまして裸の写真を送らせる手口に依存していた。生成AIの登場により、被害者が性的な画像を撮影・送信していなくても、普通の写真から本人に見える偽画像を作って脅迫できるようになった。
2022年には、17歳のジョーダン・デメイが、乗っ取られたインスタグラムのアカウントを使うオゴシ兄弟に裸の写真を送るよう誘導され、金銭を要求されてから5時間足らずで自ら命を絶った。兄弟による犯行の被害者は100人を超え、少なくとも11人が未成年者と確認された。生成AIによって犯行がさらに速く、大規模になる恐れがあり、捜査機関、政策担当者、家庭にも対策の見直しが求められている。
普通の写真から作った性的な偽画像が脅迫の材料になる
2025年2月28日、米ケンタッキー州グラスゴーに住む16歳のイライジャ・ヒーコックが自ら命を絶った。直前に、AIで捏造された自身の裸の画像と3000ドル（約47万4000円）を要求するメッセージを受け取っていた。
母親のシャノン・ヒーコックによると、45分間に150通の脅迫メッセージが届いた。イライジャは3000ドルの要求に対し、50ドル（約7900円）を送金した。家族は、脅迫に使われた画像はすべてAIで生成されたものだったと説明している。
息子2人を持つ父親としてヒーコックの家族の証言を読むと、強い恐怖と懸念、怒りを覚える。児童の性的搾取事件を担当した元検察官としては、AIで犯行を加速させる加害者を追及し続ける決意を新たにする。
米連邦捜査局（FBI）によると、加害者は子どもの普通の写真から性的虐待を描いた偽画像を作れる。学校やスポーツチーム、家族がインターネット上に公開した写真でさえ、脅迫の材料として悪用される可能性がある。
