AI

2023.07.24 12:30

グーグルとOpenAIが実現狙う「生成AIコンテンツ」を識別する技術

安井克至
つまり、当面の間は、各社の生成AIが独自の電子透かし方式を開発し、特許や技術ライセンスについて独自に判断しなければならない可能性が高い。その結果、コンテンツ内の電子透かしを見つけるために、複数のツールを使用することになりそうだ。

その一方で、生成AIのベンダーはペイロードのデータの標準化や、そのデータを保存するためのデータベースの共有について協力することも可能なはずだ。全米レコード協会(RIAA)は、2009年に音楽ファイル用の標準的な電子透かしペイロードを作成していた。

AI分野における「軍拡競争」

AIが作成したコンテンツを識別するための努力は、多くの正当な理由に後押しされている。生成AIの普及は、人間のパワーを凌駕するコンテンツの爆発的な増加につながる可能性が高いからだ。

例えば、先日はAI音楽スタートアップのMubertが、生成AIを用いてSpotifyの全楽曲数と同等の1億曲以上の楽曲を作成したと発表した。同社はそのすべての楽曲をSpotifyにアップロードしようとはしていないが、Boomyという別のAIスタートアップは、その試みを進め、Spotifyはそれを阻止する取り組みを行った。この事件は、AIが生成するコンテンツが起こす混乱の、ほんの一部に過ぎないと考えられている。

もちろん、AIが生成したコンテンツを識別するための電子透かしの利用は任意のもので、その技術の利用料が無料であっても、導入を拒む企業は居るだろう。さらに、コンテンツを改変することなくAIの透かしを除去する方法を探すハッカーも出現するだろう。そのため、AIが作成したコンテンツを作成後に識別するテクノロジーの需要も高まっている。

このテクノロジーは現在、学生の生成AIを用いたカンニングを防止するツールの派生版として存在している。他の企業も、ディープフェイクを根絶することを目的としたものを開発中だ。この動きは必然的に、AI検出ツールとコンテンツ作成ツールの間の軍拡競争につながり、例えばSpotifyのような大手が、生成AIの楽曲を受け入れないことを決定すれば、その競争は加速することになる。

AIが生成したコンテンツ検出ツールの普及は、楽観主義に基づいていると指摘する人もいる。しかし、1990年代に著作権で保護された音楽や動画コンテンツの認識技術についても、同様なことが言われていた。その当時は、認識技術の精度はあまり高くなかったが、オンラインファイル共有の台頭や著作権責任の高まりとともに必要性が高まり、現在ではユーチューブなどのサービスで日常的に使われるまでに改善されており、完璧ではないにしても、ほとんどの場合に著作権者を満足させるクオリティに達している。同じことが生成AIの分野でも起こることは予想できる。

forbes.com 原文

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事