生成AIに対する新たな反発が形成されつつある。その焦点は技術そのものではなく、あなたの画像、声、肖像を誰が所有するかという問題だ。生成AIにより、顔のコピーや声の無断使用が極めて容易になった。有名人の推薦を偽造し、広告として購入し、弁護士が差し止め通知を発行する前に数百万のフィードに押し込むことが可能になっている。AIをめぐる戦いはより困難な局面に入った。それはライセンス料、詐欺請求、削除要求、法的責任で測られる局面だ。
AIリスクは、バイアス、ハルシネーション、雇用の自動化、倫理的悪用、ディープフェイクといった問題を積み重ね、増大する不快感と実際の影響を引き起こしている。最近の報道は、これらの問題が概念的な論点から現実世界の問題へと移行していることを示している。詐欺師たちは、テイラー・スウィフト氏、リアーナ氏、その他の有名人のAI生成動画を偽のTikTokプロモーションに使用し、これらの動画はユーザーを個人情報を求めるサードパーティサイトへ誘導している。これらの広告は、本物のインタビューや公の場での発言の外観をコピーし、偽の報酬プログラムとして装った。スウィフト氏は、この種のディープフェイク広告が拡散した後、自身の肖像と声に関連する商標出願を行った。
有名人の肖像は単なる宣伝ではない。それは資産だ。それはツアー、ストリーミングカタログ、化粧品、スニーカー、映画、政治的支持、プライベートエクイティが支援するブランドを販売する。AIがその資産を安価に模倣できるようになると、これは単に不気味な行為や恐喝行為から、ブランドを希薄化し、ビジネス関係を損なう可能性のある実際の問題へと移行する。
ディープフェイクは商業的攻撃となった
ディープフェイクはもはや、不利な画像や屈辱的な動画を中心とした個人的被害の物語だけではない。それはビジネス上の問題になりつつある。
偽のCEOが支払い要求を押し進めるために使用されたり、クローン化された幹部がプロセス変更を承認して実際の被害を引き起こしたりする可能性がある。偽のアスリートがファンをギャンブル風の詐欺に誘導できる。偽の歌手が忠実なフォロワーをデータ収集サイトに送り込める。偽の医師が白衣と見慣れた顔という借用した権威で、粗悪な医薬品を販売できる。
偽物の問題は、個人的および政治的評判にも有害だ。ガーディアン紙は2026年5月5日、イタリアのジョルジャ・メローニ首相がAI生成された自身のランジェリー画像がバイラル化したことを非難し、サイバーいじめと誤情報に注意を喚起したと報じた。
IBMの2025年データ侵害コストレポートによると、調査された侵害の16%は、攻撃者がAIツールを使用しており、最も多いのはフィッシングやディープフェイクなりすまし攻撃だった。サイバーセキュリティの専門家は現在、企業顧客に対し、疑わしい音声、デジタルチャネル経由で受信した緊急の要求、偽の緊急事態、金銭や機密情報を求めるメッセージに警戒するよう注意を促している。彼らは、行動を起こす前に、信頼できるチャネルを通じてこれらの要求を検証する必要性と慎重さを促している。
偽の推薦は別の商業的リスクを引き起こす。ザ・ヴァージとワイアードの最近の報道によると、テイラー・スウィフト氏やリアーナ氏を含む有名人のAI操作動画が、偽の報酬プログラムを宣伝するTikTok詐欺広告に使用され、ユーザーは個人情報を求めるサードパーティサイトに送られた。この種の詐欺は、詐欺師に不当な収益をもたらすだけではない。それはブランドを希薄化し、コピーされた人物を困惑させ、消費者を混乱させ、正当な推薦の価値を低下させる可能性がある。また、有名人、企業、プラットフォームに、そもそも彼らのアイデンティティを利用すべきではなかった広告と自分たちは無関係であることを証明するために費用を費やすことを強いる可能性もある。
有名人は初期のテストケースだ
人々の肖像と画像の不適切な使用に対する懸念は、法律や規制措置に組み込まれつつある。法律は、これまでこの規模で答える必要がなかった問いに答えることを余儀なくされている。人のデジタル版は、いつその人がコントロールできるものになるのか。これらの動きの理由は、AIを想定していなかった現在の知的財産保護のギャップにある。
著作権は創作物とアウトプットを保護し、商標法はブランド識別子を保護する。パブリシティ権は商業的アイデンティティを保護し、プライバシー法は個人的侵入から守る。詐欺法は欺瞞を罰する。AI生成された偽物はこれらすべての領域にまたがるが、新たな問題を追加する。人物やブランドは今や、新しい行為を実行し、新しい言葉を話し、新しい製品を販売する合成メディアに変えられる可能性がある。難しいのは、本物の承認されたプロモーションと偽の無許可のものを区別することだ。
米国連邦政府は追いついている。NO FAKES法は、無許可のデジタルレプリカに対する保護を求める議員によって2025年4月に再提出された。州政府も行動を起こしている。知事室によると、2024年7月1日に発効したテネシー州のELVIS法は、ソングライター、パフォーマー、音楽関係者を声のAI悪用や無許可の声のクローニングから保護するため、州の個人権利法を更新した。
メローニ氏のエピソードは、合成アイデンティティの悪用がいかに迅速に政治的、評判的、個人的被害を同時に引き起こすかを示している。イタリアはすでにディープフェイクの悪用を刑法に組み込んでいる。2025年10月10日に施行された法律第132号の下では、AI生成またはAI改変された画像、動画、音声の不法な配布は現在、刑事犯罪となっている。この法律は、そのようなコンテンツが同意なしに共有され、その真正性について人々を誤解させる能力があり、不当な被害を引き起こす場合に適用される。違反者は1年から5年の懲役刑に直面する。この法律はまた、市場操作を含む特定の犯罪に対するAI関連の加重要因を追加している。
この課題は、AI生成された偽物の拡散を助けるプラットフォームにも及ぶ。ザ・ヴァージは、プラットフォームがリアルな有名人のディープフェイク詐欺に苦戦していると報じている。Instagram、TikTok、Xなどのプラットフォームは、偽物を作成したわけではないため、その拡散に対して責任を負うべきではないと主張するかもしれないが、その答えは、偽の有名人広告によって詐欺に引き込まれた人々を満足させることはないだろう。
多くの点で、AIはプラットフォーム責任の次の段階を表している。インターネットは以前にもここにいた。海賊行為、広告詐欺、選挙操作、ハラスメント、偽造品を通じて。それぞれは、広告主、ブランド、有名人、インフルエンサーに対する実際のリスクを伴うモデレーション問題として始まった。AI生成画像の容易さと配信の速度と低コストにより、問題ははるかに差し迫っている。被害者はスター、政治家、子供、労働者、または一般市民である可能性がある。損害は、人間または自動化されたモデレーションでさえ行動を起こす前に発生する可能性がある。
実用的な執行に向けて
1つのアプローチは、認証と透かしをAIコンテンツパイプラインの通常の部分にすることだ。簡単に言えば、AI生成されたすべての画像、動画、音声クリップは、パッケージに配送ラベルがあるように、または文書に署名があるように、何らかの出所証明を持つべきだ。その証明は、コンテンツがどこから来たのか、改変されたかどうか、そこに示されている人物やブランドが許可を与えたかどうかを示すべきだ。
開示ラベルは役立つが、ラベルがコンテンツとともに移動し、人々がそれを信じる場合のみだ。「AI生成」と書かれたラベルは、動画がダウンロードされ、トリミングされ、再投稿され、警告が削除された場合、ほとんど意味がない。透かしは、特に人間に見え、プラットフォーム、検索エンジン、セキュリティツールによって機械読み取り可能な場合、役立つ可能性がある。しかし、それらは編集、再投稿、プラットフォームのホッピングに耐える場合にのみ機能する。
削除とモデレーションシステムは異なる役割を果たす。それらは無許可メディアの拡散を減らすのに役立つが、偽物がすでに公開された後のみだ。それは重要だが、それでも予防ツールではなく、クリーンアップツールだ。被害者が苦情を申し立て、プラットフォームがクリップを削除するまでに、偽物はすでにコピーされ、アーカイブされ、プライベートグループで共有されたり、消費者を詐欺するために使用されたりしている可能性がある。そのため、より強力な答えは、より速い削除だけではない。それは、偽物または無許可のコンテンツが拡散する前に検出しやすくするシステムだ。
許可のための新しい市場が来る
クリエイティブ産業におけるAIの使用には緊張がある。一方で、スタジオは、メッセージの強化に役立つより現実的なアウトプットを作成するためにコンピュータグラフィックスを使用したのと同じように、アウトプットを強化するためのAIの利点を見ている。他方で、所有していない知的財産で訓練されたAIモデルが、所有者がコントロールできないアウトプットを作成するために使用されている。
保護された画像の各使用に同意が必要な場合、これは複数のレベルで課題を表す。スタジオは、故人の俳優の画像を使用するために許可が必要になる。レーベルは、歌手の声をクローンするために許可が必要になる。広告プラットフォームは、有名人の推薦が本物であるという確信が必要になる。
これは、AI市場に新たな課題と機会を生み出す。企業は、権利とライセンスの登録、音声認証と削除システムを作成する必要がある。保険会社は、合成メディアをカバーするために補償範囲を拡大する必要があり、タレントエージェンシーは、AI使用と執行契約を含む契約を含める必要がある。遺産計画でさえ、肖像のデジタル使用と遺産財産の権利をカバーするように変更する必要があるかもしれない。
AIが成熟し拡散し続け、ツールが使いやすくなるにつれて、画像とブランドIPの使用と悪用をめぐる課題は、より緊急性を増すばかりだ。生成AIはなりすましを生み出したわけではないが、コストを下げ、品質を上げ、結果の半径を広げた。
