グーグルは5月20日、人工知能（AI）を用いて生成したコンテンツの識別を支援する検証ポータルサイト「SynthID Detector」を公開した。このサイトは、コンテンツをアップロードすると、そのファイルにグーグルのAIツールによって生成されたメディアに自動的に埋め込まれる「SynthID」の電子透かしが含まれているかどうかを識別するものだ。
このサイトは、写真の中にある、AIによって変更された可能性が高いエリアを特定することが可能だ。グーグルは最近、「Google フォト」にもSynthIDの検出機能を追加し、同社の「Magic Editor（マジックエディター）」で写真が加工された場合にそれが分かるようにした。
今回の新ポータルでは、これと同様の検出をより幅広いメディアに対して行うことが可能で、Geminiで生成されたテキストや画像、Veoで生成された動画、Lyriaで生成された音声なども対象となる。
グーグルのAIツールを用いて生成されたメディアには、目に見えないSynthIDの電子透かしが自動で埋め込まれる。この透かしは、基本的なデジタル加工では除去できない設計となっており、SNSやメッセージアプリで共有された場合も検出可能な状態を維持できる。
検出対象には制限が
このポータルは、ディープフェイクなどのAIによる誤情報からユーザーを守り、オリジナル作品と合成メディアを区別するための重要な第一歩となる。しかしChatGPTなど、SynthIDによる透かしの埋め込みを行わないツールで生成したコンテンツの検出には対応していない。
グーグルはSynthIDの利用を同社のツール以外にも広げるべく、今年3月にはエヌビディアとの提携を発表するなど、外部との連携を進めている。また、同社は新たにコンテンツ検証企業「GetReal」との提携を発表し、同社の検証ツール群にSynthIDの検出機能を追加する計画だ。
電子透かしの限界
しかし、電子透かしのみを用いて、ディープフェイクやAIが拡散する誤情報と戦うのは不可能だ。オープンソースのAIツールは今後も存在し続け、それらに透かしを埋め込むことを強制することは難しい。
AIで生成したコンテンツを見抜くのは、現状ではまだ簡単に感じられるかもしれないが、それが今後も続くとは限らない。生成AIがますます洗練される中で、SynthIDのようなツールは、人間が作成したコンテンツとAIが生成したものとを区別する上で、極めて重要なものになりそうだ。
グーグルのSynthID Detectorのポータルは、すでに一部のテスター向けに公開されており、メディア関係者や研究者向けには、ウェイティングリストが用意されている。
