もはやSFの話ではない。私たちはディープフェイクの時代に突入した。あなたの受信ボックス、ミーティング、ビデオ通話、ソーシャルメディアのフィードには、すでにディープフェイクが入り込んでいる。
上司からあなたに、緊急のビデオ通話がかかってくる。そのなかで上司は、重要なプロジェクトの一環として、総額数百万ドルに上る複数の金融取引を承認するよう指示してきた。このプロジェクトは今この時まで機密だったが、ほかの同僚もグループ通話に参加していて、詳細をあなたに説明している。
今までそのプロジェクトについて聞いたことはなかったけれど、どこにも不審点はなさそうだ。あなたは取引を承認する。ところが、あとになって、ビデオ通話に参加していた全員が生成AI動画だったとわかる。さすがにありえないと思うかもしれないが、これは2024年、ロンドンを本社とする国際的なエンジニアリング企業Arup（アラップ）に実際に起こったことだ。フィナンシャル・タイムズも報じている。たった1本のAIディープフェイクのビデオ通話により、同社は2500万ドル（約38億4900万円）を詐取された。
この事件の経緯からわかるように、ディープフェイクはソーシャルメディア動画をはるかに超えて利用されている。高度に洗練された攻撃に利用されることも珍しくない。前例のない脅威には、前例のない対応が必要だ。問題はもはや、ディープフェイクに対するリアルタイムの防御策が必要かどうかではない。こうした防御態勢をどれだけ早く構築できるか、どのような防御策が最適かを検討すべき段階に入っているのだ。
リスクはどれだけ深刻なのか
2500万ドルに上ったアラップの損失は、ディープフェイクがもたらし得る、さまざまなタイプの被害の一例にすぎない。IBMの報告によれば、ディープフェイクは金銭の詐取だけでなく、Zoom通話を生成してマルウェアを送信したり、偽動画を生成して個人の評判を貶めたり、オンラインいじめにも利用される。
ディープフェイクは、個人や企業に金銭的リスクをもたらすだけではない。ディープフェイクは多くのケースにおいて、ハラスメントや偽情報の拡散に利用される。ディープフェイクの生成技術が高度化するにつれて、現実と区別するのはますます難しくなる。
ファイアウォール、パスワード、多要素認証といった従来のセキュリティ手法では、被害を阻止することがますます難しくなっている。こうしたツールでは、システムへのアクセスは保護されるものの、利用している人物が本人であるかどうかは検証されない。したがって、新たなセキュリティのレイヤーを設け、人物の真贋を分析する必要がある。
ここで威力を発揮するのが、AIを活用したセキュリティだ。こうしたシステムは、初期のディープフェイクにありがちだった、ぎこちない「不気味の谷」の要素を検出するだけのものではない。「デジタル版の嗅覚探知犬」のように、人間の目や耳が見落としがちな「かすかな不自然さ」を検出するよう訓練されている。
