著名人の顔の画像を拝借して本人とそっくりなAIキャラクターを作り、都合のいいことをしゃべらせた映像を拡散するディープフェイク詐欺が横行しているが、それを暴く方法がある。だが、それは簡単に回避できてしまうことがわかった。そこで、それをさらに見破る技術が研究されているが、電気通信大学とフロリダ大学による研究チームは、それでも飽き足らず、それを回避する方法を開発し、さらにそれを見破る方法を開発した。
ディープフェイク対策の現状
通常のディープフェイク映像は、AIで生成したデジタルデータをそのまま拡散している。そこで現在、「Coalition for Content Provenance and Authenticity」（コンテンツの来歴および信頼性のための連合：C2PA）という国際団体が、ディープフェイクを見破るための技術の規格化を進めている。C2PAが提案しているのは、本当にカメラで撮影した映像かどうかを見分けるためのデジタル署名を映像に埋め込むという方法だ。そのデジタル署名があれば、AIで生成した偽映像でないことがわかる。
しかし、それは簡単に回避できることがすでに知られている。ディープフェイク映像をディスプレイに映し出して、それをカメラで撮影すればいいのだ。そうすればデジタル署名が入る。これを「再撮影攻撃」と呼ぶ。
再撮影攻撃の見破り方
再撮影攻撃は、スマートフォンの赤外光による深度センサーを使うことで暴ける。再撮影されたディープフェイク映像をスマートフォンで撮影すると画像の奥行き情報が得られる。再撮影映像の被写体はディスプレイなので、映像の奥行きを視覚化した深度マップは、それが平面であることを示す。それで再撮影だとバレるわけだ。
それを回避する方法を発見
研究グループは、深度センサーで再撮影攻撃を見破る方法と、さらにそれを回避する方法を発見した。ディープフェイク映像を映し出したディスプレイを撮影するとき、カメラの前に、可視光線は透過するが赤外線は反射する光学フィルター「ホットミラー」を斜めに設置するのだ。これにより、ディスプレイの映像はそのまま撮影されるが、深度センサーの赤外光はディスプレイには当たらず横に曲げられる。
その先に映像の人物をかたどったモデルを置いておけば、深度センサーは人を撮影したときと似た深度マップを生成する。これとディープフェイク映像を一致させれば、深度センサーによる検出を100パーセント欺くことができることがわかった。この方法を「SynthIR」（赤外線合成）と呼ぶ。
