Close RECOMMEND

I write about tech & finance.

Mihai Surdu/shutterstock.com

米メモレックスは1970年代〜80年代にかけて、自社のカセットテープの品質の高さをアピールする一連のコマーシャルで成功を収めた。当時のキャッチフレーズは「これは生演奏? それともメモレックス?」というものだった。

これは今となっては古臭く感じるかもしれない。なにしろ、現代の人工知能(AI)の世界では、「これは本物? それともディープフェイク?」が新しいキャッチフレーズになるかもしれないのだから。

「ディープフェイク」はここ数年の間に使われるようになった言葉だ。ニューラルネットワークを使用するAIの一種である「ディープラーニング(深層学習)」と、「フェイク(偽物)」を合わせた造語で、まるで本物のように見える偽造動画などを指す。

ここ数週間で、こうした偽造動画が幾つか注目を浴びた。うち一つは、フェイスブックのマーク・ザッカーバーグ最高経営責任者(CEO)が自分は世界を自分の手中に収めたと語っている様子を偽造したディープフェイク動画。もう一つはナンシー・ペロシ米下院議長がスピーチでろれつが回らない状態になっているように見せかけた動画だ(ただこちらは実際には“チープフェイク”と呼ばれる比較的簡単な技術を使用している)。

米国では2020年に大統領選挙を控えていることもあり、議会はこの問題への懸念を深めている。米下院情報特別委員会は先週、ディープフェイクに関する公聴会を開いた。しかし、何らかの措置が近く取られる見通しはない。

ヒーロー・グループ(Hero Group)のジョセフ・アンソニーCEOは「ソーシャルメディアでのディープフェイクの出現は、言論の自由という私たちの概念に対して現実に影響をもたらす連続的問題だ」と語る。

「重要な決断が慎重に下され、あらゆる面で大きな利害が関係するような場面で、事実を操作するのは非常に危険だ。ネットで拡散するディープフェイク動画は、政治家、ブランド、セレブなど影響力の大きな人々の信用を傷つけるだけではなく、株価や国際的な政策の取り組みに影響を与え、社会的な害を及ぼす可能性もある。単なるお遊びやユーモアでこれを作成する人もいるが、この技術を試す行為は、眠れる巨人を起こすようなもの。暇つぶしの域を通り越し、操作的で悪意のある領域に入る」

ディープフェイク技術が今後、進化を続ける一方であることは間違いない。いずれ、何が真実なのかを判断するのが困難になり、浸食的な影響につながる可能性がある。

また、ディープフェイクの作成が非常に簡単になりつつあることも認識しておくべきだ。エニークリップ(AnyClip)のジル・ベッカーCEOは「ディープフェイクはフェイクニュースの脅威をさらに高めてしまう。今や誰もが、説得力のある形で他人に言葉を語らせる能力を持てる」と語る。

編集=遠藤宗生

PICK UP

あなたにおすすめ

合わせて読みたい