AI

2024.01.31 10:00

テイラー・スウィフトのディープフェイク問題、Xの対応はかなりお粗末

安井克至
1536

Tinseltown / Shutterstock.com

ソーシャルメディア企業は、人工知能(AI)と不快なAIコンテンツの拡散に遅れることなく付いて行くことはできていないようだ。

最新の例は何だろうか。X(旧ツイッター)は現在「Taylor Swift」での検索結果がまったく表示されないようにしている。先週、AIが生成した露骨に性的なテイラー・スウィフトのフェイク画像がXに投稿された。Xはコンテンツのフィルタリングの大半を排除しているため、このフェイク画像は簡単に拡散した。つまり、画像はまだX上にあるものの、少し見つけにくくなっている。

残念なことに、Xが使っている初歩的な方法(例えば「Taylor Swift」で検索しても結果ではなくエラーが表示されるなど)も機能していない。米オンラインメディアMashableが指摘したように「Taylor Swift deepfake」と検索すれば問題の画像はまだ表示される(編集部注:翻訳時点では表示は認められず)。

生成AIを封じ込める取り組みは、遅々として進んでいない。一方、AI自体は急速に進歩している。筆者はこのほど、本物そっくりの画像を作成できる生成AIのウェブアプリ「Adobe Firefly」を試した。誰かが本を読んだり日記を書いたりしている一連の画像を作成するようAIに指示した。

そうして表示された画像はかなりリアルで、自分のソーシャルメディアのフィードに投稿したい誘惑に駆られた。筆者は2022年に朝の日課と日記を書くことについての本を執筆しており、それらの画像を公開すれば、いくつかの新しい投稿をフォロワーに促すのに役立っただろう。

だが結局、画像を使わないことにした。まず第一に、写真には少し不気味なところがあり、AIが作成したものだとフォロワーが気づくだろうと思ったからだ。それは問題のほんの一部だった。テイラー・スウィフトのフェイク画像について知ってから、筆者は差し当たってAIを使った画像の作成にはこれ以上関わらないと決めた。たとえそれが、誰かが本を読んでいるという、無害な画像だったとしてもだ。

あなたはどうだろうか。AIに関するこうした決断の一部は重要だ。なぜなら、AIはあまりにも急速に登場し、AIを活用したツールは不正な目的に使われているからだ。私たちがこうしたツールを使えば使うほど、ツールの普及は進むだろう。実際、これはすべてのテクノロジーに言えることだ。私たちがソーシャルメディアを受け入れ、人々がアカウントを作るにつれて、私たちはソーシャルメディア企業が技術革新を起こし、多くの人にアクセスできるようにした。

筆者はAIにまったく反対していない。テイラー・スウィフトのディープフェイクは、AIの現状について多くのことを明らかにしていると強く思う。我々はすでに後手に回っている。AIが広がり、向上すればするほど、その進歩を封じ込めることは難しくなるばかりだろう。「Taylor Swift」での検索結果の一部を非表示にすることで、XはAIを封じ込めようと微力ながら取り組んでいる。

これは多くの意味で問題だ。もしXがAI生成画像の拡散を阻止できる唯一の方法が、(実際には画像を削除することなく)検索をブロックすることだとしたら、AIが他のかたちでどう手に負えなくなるのかが気になる。不快なAI動画が一般的になるのだろうか。そうだとすれば、Xは著作権の問題に対処できるのだろうか。AI生成画像の供給方法や管理について、私たちにできることはあるのだろうか。

どちらかといえば、テイラー・スウィフトのディープフェイク問題は、AIがいかに早く私たちの数歩先を行くことができるかを示している。我々は今後も常に一歩遅れなのだろうか。

forbes.com 原文

翻訳=溝口慈子

タグ:

ForbesBrandVoice

人気記事