私たちは今、コンテンツが本物に見え、本物に聞こえ、本物のように感じられる──疑問を抱く理由が生じるまでは──デジタル環境の中で生きている。
AIを活用したディープフェイクは、奇妙なインターネット上のトリックから、数十億ドル規模の詐欺業界を支える本格的な脅威へと進化した。現在では、大規模な金融詐欺や政治的混乱から、イーロン・マスク氏やマーク・ザッカーバーグ氏といったCEOへの嫌がらせ、そしてもちろん地方議会議員からトランプ大統領に至るまでの主要な公人への攻撃まで、あらゆることを実行している。急速な拡大局面にあるディープフェイクは深刻な問題を引き起こしており、検出されたケースは急増している──特に暗号資産、フィンテック、そしてもちろん混乱が常態化しているメディア業界において。
私たちの多くにとって、実体験が思い浮かぶだろう。上司からの奇妙な留守番電話で助けを求められたり、グループチャットで共有された公人の発言動画が何か違和感を覚えるものだったり。このような瞬間はますます一般的になり、ほんの数年前なら奇妙に聞こえたであろう疑問を私たちに投げかけている。何が本物なのか？まだ個人的な影響を経験していない人も、今年中に経験する可能性が高い。
「現時点では、AI生成コンテンツを見抜くことは、あなたにとっても基本的に他の誰にとっても五分五分だ」と、Latent Space Advisoryの創設者でケンブリッジ大学の生成AIとビジネスプログラムのリーダーであるヘンリー・アジャー氏は述べた。私は最近、この分野の第一人者であるアジャー氏と詳細なインタビューを行った。同氏は10年近くディープフェイクと生成AIのエコシステムの中心にいて、主要なAIラボ、フォーチュン100企業、政府に対し、同氏が「合成された現在」と呼ぶこの状況をナビゲートするためのアドバイスを提供してきた。
私たちはこの技術が周縁部から主流へと移行するのを目撃してきたが、その認知度はまだ信頼を生み出すには至っていない。「実際には合成された未来ではなく、大部分において今まさに合成された現在なのだ」とアジャー氏は警告する。私たちのシステムはより洗練され、より遍在し、一部の人々が本物の体験と呼ぶものとの区別がますます困難になっている。
ディープフェイクAIは、AIを使用して既存の視覚または音声素材を改変し、ある人物のアイデンティティを別の人物のものに置き換える合成技術の一形態である。これは深層学習技術、特に敵対的生成ネットワーク（GAN）を使用しており、偽造されたコンテンツの精度を繰り返し向上させることで強化する。
これらの機能は今や日常的なアプリの中に組み込まれている。音声クローニングは人の話し方のニュアンスをほぼ完璧に捉えることができ、生成動画はオンデマンドで説得力のある映像を作成できる。自分には起こらないと思っているなら、それは間違いだ。私が報じてきたように、あなたやあなたのCEOをクローニングできる多くのAIプラットフォームが存在する。スマートフォンの写真でさえ、ほとんどのユーザーが考えもしないコンピュテーショナルフォトグラフィーの層を通過している。「これらの技術は私たちの日常生活に深く組み込まれている」とアジャー氏は付け加える。「そして、それらはますます良くなっている」
拡大する信頼のギャップについて
今夏の米連邦準備制度理事会（FRB）の会議で、OpenAIのCEOであるサム・アルトマン氏は、ディープフェイク技術による「詐欺危機」が迫っていることを懸念していると述べた。連邦規制当局も同様の懸念を表明している。財務省の金融犯罪取締ネットワークは、銀行、保険会社、住宅ローンブローカー、カジノ事業者を標的としたディープフェイク詐欺の増加を報告した。昨年末には、サイバー犯罪者が生成AIを使用して「経営幹部や信頼される従業員になりすまして企業を標的にし、被害者に多額の送金や最終的に詐欺師の管理下にある口座への支払いを指示する」ケースが増加していると報告された。
政府にとって、エコシステム全体の加速するペースを規制することが最大の脅威となっている。「多くの政府は、たとえ公言しなくても、完全に手に負えない状態にある」とアジャー氏は述べた。政策立案者は、悪用の拡大を放置することなく、いかにイノベーションを奨励するかを決定しなければならない。アジャー氏はこれを「イノベーションの綱渡り」と呼び、どちらの方向に傾きすぎても意図しない結果をもたらすと指摘する。独特の課題は、政府がこのオープンソース技術を完全に制御できないことだ。「パンドラの箱は開かれた」と同氏は述べた。「もはやこれを完全に止めることはできない」
合成メディアの検出が困難になるにつれ、信頼の侵食は社会のあらゆる部分に影響を及ぼす。消費者はオンラインで見るものに躊躇し、企業は自社のコミュニケーションの完全性を懸念し、政府は公的言説における現実の共有感覚を維持するのに苦労している。「信頼はこのAIの新時代における最も重要な通貨の1つだ」とアジャー氏は述べ、AI製品に透明性を組み込む組織が重要な優位性を持つと考えている。
合成時代をナビゲートする方法
合成された現在への移行により、私たちのデジタルインフラには再起動が必要であることが明らかになった。消費者が操作されたメディアを認識することを期待するのは、特にツールの新世代ごとに手がかりが変化するため、ますます非現実的になっている。アジャー氏や他の業界リーダーは、より持続可能なアプローチは、暗号化コンテンツラベルを通じて作成時点でコンテンツを検証し、高度な検出ツールを日常的なソフトウェアに統合することだと提案している。複雑に聞こえるだろうか？その通りで、一部のサイバーセキュリティ企業がそれを解決し、利益を得るだろう。その間、あなた自身とあなたの会社が偽物を見抜く準備を整え、武装させよう──まずは動画から始めよう。
これらの展開は恐ろしく見えるかもしれないが、認識は恐怖よりも実用的なスキルである。「見たものを信頼できないという点で、この新しい状況を美化することはできない」とアジャー氏は述べ、AI生成コンテンツがニュースや事実として提示される素材に近づくにつれ、懐疑主義は実用的なスキルであると指摘した。合成された現在は消え去ることはない。ツールは進化し、本物と偽造の境界線は薄くなり続け、何が本物かを証明する機関への圧力は高まるだろう。その間、その不確実性をナビゲートする方法を学ぶことは、技術そのものと同じくらい重要になるだろう。今のところ、警戒を怠らず、何かを見たら疑問を持つことだ。
