AI通信「こんなとこにも人工知能」

Mihai Surdu / shutterstock.com

人工知能を使って生み出されたフェイクポルノを売買する闇市場が、AI先進国・中国で広がりをみせているという。「ディープフェイク」という画像・動画生成AIの登場は報じられて久しいが、いよいよ市場に“サービス”として普及し始める段階にいたったようだ。

中華系各メディアは、国内で芸能人の顔を合成したフェイクポルノの闇市場が生まれつつあると指摘。その背景とされているのは、AI技術の低価格化だ。

フェイクポルノの生成を請け負う業者は、オンラインで顧客を集客。WeChatやAlipayなどを通じて決済を受けた後、クラウドストレージなどのURLなどを送って商品を提供する。フェイクポルノの価格は質や長さによって異なるが、確認されたところによると700本の動画がセットになった商品が約158元(約2470円)で販売されていた事例があったという。

一方、顧客が選んだ芸能人や一般人の写真・動画を素材にし、カスタマイズされた動画を提供する業者も現れているという。その場合、とある業者の価格設定では、1分あたり40元(約630円)ということが報じられている。その業者の証言によれば、写真が多様であればあるほどより精巧なフェイクポルノを制作することができるという。

中国メディアは、フェイクポルノの闇市場が拡大することで、プライバシーや情報セキュリティに対する社会的懸念が高まるだろうとしている。例えば、憎む対象に危害を与えるという動機で、個人がフェイクポルノを拡散する行為が広がる可能性も否定できないからだ。

3月には、全国人民大会(日本の国会に相当)の報道官・張業遂氏が、中国はAIに関する立法を進めていると発言したが、中国サイバー空間戦略研究所関係者は技術の発展が法律より先行しているとし、国内にはまだAI関連の法律が未整備だと指摘している。

中国ではフェイクポルノを販売するポルノ業者は、現行法の範疇において、わいせつ物流布と肖像権侵害で処罰されるが、今後中国でAIに対してどのような規制が特別に設けられるのか注視したいところだ。

日本の研究者のひとりは「ディープラーニング技術は、優秀な学生であれば使いこなせてしまう代物だ」と指摘する。今後、フェイクポルノだけでなく、政治・社会問題のネガティブキャンペーンなどに悪用されるというシナリオも充分に考えうる。

フェイクニュースならぬ、AIが生み出す大量のフェイクコンテンツに対して、社会はどのように対応してくべきなのか。実際に市場が広がりをみせはじめた今、“闇のユースケース”を想定して先回りすることが必要となるはずである。

連載:AI通信「こんなとこにも人工知能」
過去記事はこちら>>

文=河鐘基

PICK UP

あなたにおすすめ

合わせて読みたい