AI

2023.07.24 12:30

グーグルとOpenAIが実現狙う「生成AIコンテンツ」を識別する技術

WASHINGTON, DC - JULY 21 (Photo by Anna Moneymaker/Getty Images)

人工知能(AI)の進化は、コンテンツ制作者やメディア業界に多くの差し迫った課題を提起している。最も重要な課題の1つは、AIが生成したコンテンツを、人間の創作物とどのように区別するかというものだ。

バイデン大統領は7月21日、ハイテク大手7社が安全性を確保しながらAIの技術開発を進めることで合意したと発表したが、特に、グーグルとOpenAIの2社は、AIツールで作成されたコンテンツを識別するのための「ウォーターマーク」と呼ばれる電子透かし技術の開発を約束したという。

電子透かし(デジタルウォーターマーク)は、何世紀も前から行われてきた、紙幣などの紙の印刷物の真正性を示すための「透かし」の技術に由来する。電子透かしは、JPEG画像やMP3の音声ファイル、MP4の動画ファイルなどにペイロードと呼ばれる小さなデータを挿入するものだ。

電子透かしは1990年代に初めて登場し、今では映画やストックエージェンシーの写真、電子書籍、音楽ファイルなどに日常的に使用されている。生成AIツールは、コンテンツを生成する際に電子透かしを埋め込むように簡単に変更可能で、ペイロードにそのツールの名前や作成日時、ユーザーの身元などのデータを埋め込むことが可能だ。

この電子透かしの利用は、アドビなどが2019年に立ち上げた「Content Authenticity Initiative(CAI)」と呼ばれる取り組みに似ている。CAIはもともと、コンテンツの中でも特にニュースコンテンツの出所や出自を追跡し、偽情報と区別するために設計されたもので、AP通信やニューヨーク・タイムズ、BBCなどのジャーナリズム組織も参加している。アドビは最近、同社の画像編集アプリのCAIツールに、自社のFireflyといった生成AIの使用を記録する機能を追加すると発表した。

しかし、技術は存在するものの、課題は残っている。その1つは、電子透かしのスキームが画像や音楽などのコンテンツの種類によって異なることで、もう1つは、標準的な電子透かしのアルゴリズムが存在しないことだ。すべての生成AIに対応する電子透かしスキームを作成することは、かなり長期的な取り組みになりそうだ。
次ページ > AI分野における「軍拡競争」

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事