Googleフォトに「AI生成画像を見分ける」機能が追加される可能性

グーグルは、Googleフォトに人工知能（AI）で操作もしくは生成された画像を簡単に見分けられるようにする機能を追加しようとしている。

Androidアプリの専門家であるAssemble Debugによると、Googleフォトの将来のバージョンでは、通常、写真データに埋め込まれている補足情報をより多く読み取れるようになる可能性がある。メタデータとして知られるこれらのデータは、画像の作成や編集に使用されたソフトウェアに関する情報を含んでいる。
多くの生成AIプログラムは、画像を作成する際にその使用を識別するためのメタデータを埋め込んでいる。例えば、グーグルの生成AIであるGeminiで作成された画像には、クレジットのメタデータに「Made with Google AI」というテキストが含まれている。

ニュースサイトAndroid Authorityの最近の記事によると、GoogleフォトのAndroidアプリのバージョン7.3には、「ai info」「credit」「digital source type」とラベル付けされたメタデータに言及する新たなコードが含まれている。現在のところGoogleフォトにアップロードされた生成AIを用いた写真には、それがどのように作成されたかを示す特別なインジケーターは表示されていないが、これらの新たなメタデータの追加は、Googleフォトが将来的にこの情報を使用し始めることを強く示唆している。

GoogleフォトはすべてのAI画像を検出できるわけではない

しかしながら、これらのメタデータに含まれる情報を読み取って表示するだけでは、人々を偽情報から保護することはできない。なぜならすべてのAIソフトウェアがこれらのメタデータを使用する保証はなく、たとえ使用しても、メタデータは画像が作成された後に簡単に削除または編集できる。説得力のあるニセの画像を作成したい人は、単にメタデータを取り除けばよいのだ。

画像自体の内容に基づいてそれがAIで生成されたものであることを見抜くのは、はるかに難しく、通常はさらに多くのAIの使用を必要とする。Android Authorityの記事では、グーグルがこの機能をGoogleフォトに実装する予定があるかどうかは示されていない。

ただし、メタデータを使用すれば、Googleフォトのライブラリ内の生成AIを用いたコンテンツを検索しやすくなるだろう。

グーグルが自社製品で生成AIコンテンツを識別するための対策を講じているのは喜ばしいことだが、ここで重要なのは、それを正確に行うことだ。今年の7月にメタは、フェイスブックやインスタグラムのプラットフォーム上にあるAIコンテンツのラベリングを変更せざるを得なかった。これは、ユーザーの写真を同社が誤ってAIを使用したものとして識別したという反発を受けての措置だった。

（forbes.com 原文）