なぜAI情報が重要なのか
AIの悪用に対する懸念が高まる中、グーグルの最新の取り組みは、利用可能なツールに対する透明性と認知度を高め、ユーザーに画像ベースの誤情報やディープフェイクに対する防御手段を提供する。オンラインで見つけた画像に疑問を感じた場合、その画像をダウンロードしてGoogleフォトで開けば、AIツールが使用されたかどうかを確認できる。そして、その真偽を判断することが可能だ。advertisement
この変更により、ユーザーは加工された画像を共有する前に再考を促すことが期待される。なぜなら受信者が画像が編集されたことに気付く可能性があるからだ。この情報は、誤情報やディープフェイクの撲滅、あるいはリアルな身体画像の発信に対して効果を発揮するかもしれない。
良いスタートだが、完全な解決策ではない
グーグルの最新の動きは、ユーザーに対して大いなる透明性を提供するが、グーグルは単に、画像内に任意で保存された情報を伝達しているに過ぎないことに注意が必要だ。グーグルのAIツールはこの情報を自動的に埋め込むが、他のツールではそうではない可能性がある。さらに、AIの使用を隠そうとする者は、画像を共有する前にIPTCメタデータを簡単に編集または削除することができ、スクリーンショットを撮るだけでもその情報を消去することが可能だ。多くのオンラインサービスは、コンテンツがアップロードされる際に自動的にそのようなデータを削除するため、「AI情報」が失われることは十分に考えられる。逆に、悪意のある者が本物の写真に偽のAIタグを追加して信頼を損なおうとすることも容易だ。とはいえ、AI生成コンテンツの信頼性を高めるためのより高度な技術も開発中だ。グーグルは既に、電子透かし技術のSynthIDのような強固な技術の開発を進めており、AI生成の画像、動画、テキスト、音声に見えない透かしを埋め込み、後でソフトウェアツールを使用してその透かしをデコードできるようにしようとしている。
これらの透かしは、削除や変更が容易な単純なタグとは異なり、メディアと深く融合しているため除去するのが非常に困難だ。例えば、絵の隣にあるラベルからアーティストの名前を削除するのは容易だが、その創作スタイルを隠すのははるかに困難である。それは作品の本質的な部分だからだ。SynthIDの透かしは、熟練した法医学的アート分析家のみが検出できる、知覚できない特徴的な筆遣いのようなものである。
advertisement
Googleフォトの新しいAI情報は、機能展開が終わり次第、アプリで写真を選択して上にスワイプするか、photos.google.comのウェブ版で「i」アイコンをタップすることで確認できる。
（forbes.com 原文）
