Hiyaの新たな調査により、多くの人々が疑っていたことに数字が示された。アメリカ人の4人に1人が過去12カ月間にディープフェイク音声による電話を受けたという。高齢者は1件あたり平均1,298ドルを失っており、これは若年層の被害者の3倍に相当する。業界ではこれをAIの武器化と呼んでおり、その表現は妥当だ。しかし、見出しが伝えているのは話の半分に過ぎない。もう半分はすべての人に影響を及ぼし、詐欺電話をはるかに超えた問題なのだ。
事例ファイルより：誰も気づかなかった編集
私は、証拠として提出された音声記録に関わる事件を担当した。重要な会話が、電話で録音されたとされていた。何も不自然には聞こえなかった。誰も問題を指摘しなかった。誰も疑問を持たなかった。依頼人は、会話の重要な部分が文脈を変えるために編集されているのではないかという疑念を抱いていた。その疑念、そしてその疑念だけが、私がデジタル・フォレンジック調査を依頼されるきっかけとなった。
私が発見したことを理解するには、スペクトログラムの仕組みを理解する必要がある。スペクトログラムは音声を視覚的表現に変換する。音には測定可能な3つの特性がある。周波数、振幅、時間だ。スペクトログラムは、これら3つすべてを1つのグラフ上に同時にマッピングし、音声の視覚的指紋に近いものを生成する。
すべての音、すべての沈黙、それらの間のすべての遷移が、目に見える痕跡を残す。音声が連続的かつ自然に録音されると、その指紋は全体を通して一貫している。音声が切り取られ、つなぎ合わされると、編集点で指紋が変化する。遷移が不自然に見える。ある瞬間から次の瞬間へと引き継がれる自然な音響特性が中断される。人間の耳には何も聞こえない。しかしスペクトログラム上では、切断が可視化される。
それがまさに、私が電話から直接元のファイルを取り出し、分析を実行したときに発見したことだった。記録の一部が削除され、残りの音声がつなぎ合わされていた。
編集は完全に聞き取れないものだった。どれだけ注意深く聞いても、それを明らかにすることはできなかっただろう。実際のデバイスから実際のソースファイルをデジタル・フォレンジック調査しなければ、その記録は本物として受け入れられていただろう。事件は捏造された証拠に基づいて進行していたはずだ。誰も気づくことはなかっただろう。
使用された技術は高度なものではなかった。AIもない。ディープフェイクもない。ただの音声編集ソフトウェアと、それを使う動機を持った誰かだ。
スペクトログラムは、このような旧式の操作を捉えることに限定されない。デジタル・フォレンジックの専門家がAI生成音声を検出するために使用するツールの1つでもある。音声が合成によってクローン化されると、結果として得られる記録は独自の指紋を持つ。AIが音声を構築する方法は、マイクが実際の環境で実際の声を捉える方法とは異なり、これらの違いは周波数パターン、音響特性、製造された信号の微妙なアーティファクトに現れる可能性がある。
もし私たちがすでにそれを見逃していたとしたら、今何を見逃しているのか自問してほしい。
ディープフェイク音声はサイバーセキュリティの問題だけではない
ディープフェイク音声に関する公の議論は、ほぼ完全に消費者保護の問題として枠組み化されている。詐欺師が孫の声をクローン化し、困窮している祖父母に電話をかける。詐欺はリアルタイムで発生する。
しかし、AI音声クローニングは、十分な注目を集めていない第2の問題を引き起こす。事後の証拠捏造だ。
誰かの声の説得力のある合成音声を生成するのに、もはやスタジオも、サウンドエンジニアも、数カ月の作業も必要ない。その人の声の数秒間が必要なだけだ。電話。ボイスメール。YouTube動画。証言録音。音声クローニングツールは月額10ドル未満でサービスとして利用可能であり、詐欺を犯す動機を持つ誰もが利用できる障壁を事実上ゼロに引き下げている。
わずか数秒の音声から、悪意のある行為者は、その人が決して言わなかったことを、決して起こらなかった状況で、決して発生しなかった時間に言っている説得力のある合成記録を作成できるようになった。
誰かを現場に配置する捏造された電話。事前の合意を製造する合成ボイスメール。決してなされなかった自白の製造。これらは仮説上の脅威ではない。今日、誰でも、安価で広く利用可能で、毎月改善されているツールを使って、技術的に達成可能なのだ。
これは法律専門家や保険会社に限定された問題ではない。紛争、請求、交渉、取引の当事者となり得るあらゆる個人、あらゆる企業、あらゆる組織が同じリスクに直面している。次の電話の相手は、その会話から声をクローン化される可能性がある。今日残したボイスメールが、明日の捏造音声の原材料になる可能性がある。
旧式の音声操作には少なくともある程度のスキルが必要で、訓練を受けた調査官が適切なツールで発見できるアーティファクトを残すことが多かった。しかし、それでもほとんど誰も調べていなかった。新しいバージョンの音声詐欺はほとんど何も必要とせず、技術的背景のない人でも実行できる。
この技術が成熟する前に、法的手続き、保険請求、ビジネス紛争で私たちが見逃してきた詐欺の量は、それ自体が警戒すべきものだ。次に来るものは、本当に恐ろしいものであるべきだ。
認証としての音声はすでに破綻している
ディープフェイク音声の脅威は、ほとんどの人が認識しているよりも広範囲に及ぶ。銀行や金融機関は、顧客の声がパスワードとして機能する音声バイオメトリクス認証システムの構築に、何年もの時間と多額の資本を費やしてきた。その理由は健全に思えた。声はユニークで、偽造が難しく、PINよりも便利だ。
AI音声クローニングは、その理由を解体した。BioCatchによる600人の詐欺専門家を対象とした調査では、米国の銀行の91%が音声認証の使用を再考しており、合成音声がこれらのシステムが検出するように設計された音声特性を説得力を持って複製できることを認めている。ジャーナリストはすでにこれを実践で実証しており、AI クローン化された音声を使用して、大手金融機関のアカウントへのアクセスに成功している。
音声が機関レベルで信頼できる認証要素でなくなったのであれば、法廷、保険請求審査、または誰かが記録が本物かどうかを判断する他のあらゆる文脈において、確実に信頼できる真正性のテストではない。
法廷も不正音声に対する準備ができていない
法制度はこれに取り組み始めているが、ゆっくりとだ。連邦証拠規則諮問委員会は、AI生成証拠に対処するための改正案の検討を行っている。これには、証拠をディープフェイクとして異議を唱える当事者が、裁判所がさらに調査する前に予備的な提示を提供することを要求し、その後、証拠を提供する当事者に高度な真正性の立証責任を課す草案条項が含まれている。この提案はまだ正式に採択されていない。その間、裁判所は一貫性のない基準を適用している。
ある連邦事件では、ディープフェイクを理由とした音声記録に対する弁護側の異議に対し、裁判所は、被告の声に対する証人の親しみがおそらく記録を認めるのに十分であるという見解を示した。その基準は、誰でも数秒の音声から声をクローン化できる世界のために構築されていない法的枠組みを反映している。
音声を管理する証拠規則は、技術が今できることに追いついていない。追いつくまで、裁判所はAI合成を考慮するように設計されたことのない基準を使用して、音声証拠の許容性について決定を下すことになる。これは訴訟当事者、記録に依存する請求を評価する保険会社、そして自分の言葉がいつか自分が作成したことのない文脈に置かれる可能性のあるすべての人にとって重要だ。
ディープフェイク音声検出が2段階の問題である理由
企業、保険会社、法律専門家は、この問題を2つの異なる層で考える必要がある。
第1はトリアージだ。AIベースの検出ツールは、大規模に音声をスクリーニングし、請求プロセス、法的手続き、またはビジネス上の決定にさらに進む前に、合成または操作の兆候を示す記録にフラグを立てることができる。この層は、組織が現在世界に入ってくる潜在的に不正な音声の膨大な量に圧倒されないようにするために存在する。これは完璧ではない。見逃すこともある。しかし、これは必要な最前線だ。
第2の層は、何かがエスカレートされたとき、または賭け金がトリアージフラグでは不十分なほど高いときに起こることだ。そこでデジタル・フォレンジックの専門家が登場し、ここでほとんどの人が認証が実際に何を必要とするかを誤解している。
スペクトログラム分析の実行を含む、音声ファイル自体の調査は作業の一部だ。しかし、それが仕事の全体ではない。法的目的で記録を真に認証するには、デバイスに行く必要がある。電話、レコーダー、ラップトップ、音声を捉えたとされるものは何でも。デジタル・フォレンジック調査官は、デバイスレベルの証拠を調べる。ファイル構造、メタデータ、タイムスタンプ、ファイルがどのように、いつ作成されたかによって残されたアーティファクト。記録がいつ、どこで行われたかを裏付ける他のファイルはあるか。メタデータは主張された状況と一致するか。ファイル構造はネイティブ記録と一致するか、それとも他の場所からデバイスに導入された兆候を示しているか。
それが、音声ファイルが疑わしく聞こえると言うことと、それが本物ではないことを法廷で証明できることの違いだ。
完璧な検出は来ない、だからこれをすべきだ
対応は、完璧な検出技術を待つことではあり得ない。それは来ない。AI合成はデジタル・フォレンジック検出よりも速く進歩しており、そのギャップは縮まっていない。
音声証拠の保管の連鎖は、これまでにないほど重要になっている。元のデバイスからの元のファイルが、デジタル・フォレンジック調査を可能にするものだ。転送されたボイスメール、ボイスメモのスクリーンショット、電子メールで送信された圧縮コピー、これらは操作を明らかにする分析には不十分であることが多い。音声が事件、請求、または重要な手続きにとって重要である場合、ソースファイルと発信デバイスへのアクセスを保存するためのプロトコルは、必要になる前に確立される必要がある。
人が本物の音声と操作された音声の違いを聞き分けられるという仮定は、もはや擁護できない。アメリカ人のほぼ4人に1人が、ライブ通話でAI生成音声と本物の音声を確実に区別できず、録音された音声のデジタル・フォレンジック操作はそれよりも検出が難しい。人間の耳は、この問題に対する適切な手段ではない。
音声証拠が重要な紛争については、その証拠がデバイスレベルでデジタル・フォレンジック調査されたかどうかを尋ねることは合理的なステップだ。今日のほとんどのワークフローでは、誰も尋ねない。
結論
詐欺電話の問題は、それが受けている注目に値する。しかし、詐欺電話はあなたが知っている部分だ。誰も調査も疑問も持たずに事件ファイルに置かれている記録は、あなたが知らない部分だ。
そのファイルは偽物かもしれない。それが捉えている会話は決して起こらなかったかもしれない。その上の声は、ボイスメールやYouTube動画から引き出された数秒の音声から組み立てられたかもしれない。部屋にいるすべての人がそれを聞いて信じるだろう。なぜなら、それについて何も不自然に聞こえないからだ。
私たちがすでに見逃した詐欺は知ることができない。来る詐欺はそうではない。
