何も信じられない時代の「真実のコスト」
ファリード氏は指摘する。
AIによる生成物は、もはや誰でも、数分で「本物そっくり」に作り出せる。
SNSで流れる偽動画、経営者の声をまねた通話、生成AIが生んだ「存在しない発言」。CEOが街中で動物を蹴る動画、偽の決算発表、クローン音声を使った詐欺電話。これらの偽の動画がAIで作られ、数分で世界中に拡散し、真実より速く、深く、そして広く信じられて、結果として、株価までをも動かす。こんな可能性が現実味を帯びている。
AI生成コンテンツの質は人間の感覚を追い越しつつすらある。かつては一見して分かるほど不自然だったディープフェイク映像も、いまや人間の目や耳では識別が難しいレベルに到達している。
人を写した偽造画像は、すでに「不気味の谷」を越え、本物かどうかを見分ける確率は、もはやコイン投げと変わらない」と彼は語る。
この「谷越え」を裏付ける事例は、日本国内でも現れ始めている。
最近では、AIを活用したニュース番組風の当時の首相のインタビュー動画がSNS上で拡散し、短時間で数百万回以上再生されるケースが報じられた。その映像は声の抑揚や照明、テロップなども精巧に作られており、従来の「明らかな偽物」とは異なる水準に達していた。映像の一部は自動生成ツールでわずか数時間で制作されたとされ、誰もが発信者になれる時代のリスクを浮き彫りにしている。
さらに、音声をAIで合成し、企業の関係者を装って送金や情報提供を誘導する「音声ディープフェイク詐欺」も報告されている。国内では未然に防止された例もあるが、海外では経営幹部の声を模した通話で巨額の資金をだまし取られる事件が発生しており、「声の信頼性」が揺らぎ始めている。
こうした行為は、肖像権・名誉毀損・不正競争防止法などの観点からも違法性を問われる可能性がある。本人の許可なく似せた存在を作り、ネット上で本人を名乗る行為は、プライバシー侵害にとどまらず、信頼や評判といった「社会的資産」を毀損する。
しかし、そしてこの問題は、AIが普及するほどに、誰にでも起こり得る現実だ。いまやAIによって本人のように見える、本人のように話す偽の存在を誰もが容易に作り出せる時代となった。
かつて人間の直感が最後の防波堤だった時代は終わった。AIが「見せ」「語り」「演じる」世界において、企業が守るべきは、「真実を保証する仕組み」と「信頼を築く文化」である。
防御は排除ではなく緩和である。既に、AIの進展をとめることは現実的ではないし、どんな技術をもってしても、虚偽の発信を完全に止めることはできない。だからこそ、すべての公式発信にデジタル署名を付すこと、そして危機対応シミュレーションを繰り返すこと。それが、企業が信頼を守る最低限の備えだとファリード氏は説く。
