今から約1週間前の6月16日、トランプ米大統領がカナダで開催された主要7カ国首脳会議（G7サミット）から予定を早めて帰国し、イスラエルへの「無条件降伏」をイランに要求した際、匿名のTikTokアカウントが2本の親イラン的なプロパガンダ動画を投稿した。
そのうちの1本は、複数の女性がコンピューターの前に座り、ロケットの発射準備をしているように見える映像だった。もう1本は、ミサイルを搭載した戦車の列がイランの国旗を掲げながらトンネルから出てくるビデオだった。
その数日後に、米国はイランの核開発施設を空爆し、中東での新たな軍事衝突に突入した。それと同時に、AIで生成したと見られるこれらの動画が、SNS上で急速に拡散した。データ分析プラットフォーム「Zelf」によれば、この2本の動画は、過去1週間のTikTok上のイラン関連の動画の中で最も視聴された15本に入り、2本合計で3000万回以上再生された後に削除された。
またこれら動画は、インスタグラムのReelsやYouTube Shortsにもそれぞれ100回以上投稿され、合計で数百万回の再生を記録した。TikTok、インスタグラム、YouTubeは、本物ように見えるAI生成コンテンツにその旨を開示するラベルの表示を義務付けているが、これら動画にはその表示がなく、一部の視聴者や動画をシェアしたユーザーは本物だと考えたようだった（筆者は以前にフェイスブックやスポティファイでコンテンツポリシーの職務に就いていた）。
YouTubeでは、女性たちとロケットの映像の投稿に「このチャンネルはこの動画の制作にあたり報酬や物品を受け取った可能性がある」との注意書きが表示されていた。別のYouTube投稿では、アラビア語で「いいねとチャンネル登録をお願いします」とのテキストが加えられていた。また、フェイスブックでは、このロケットの動画に対して、笑顔の絵文字のキャラクターを投稿したユーザーがいた。他にもハートや「賛成」の意思を示す反応が寄せられた。
プロパガンダ的投稿を禁止していないため、各国政府がAI生成動画を拡散
これらSNSプラットフォームはいずれも、誤解を招く内容の投稿や偽アカウントを用いた大規模なキャンペーンの一環でない限り、イランやイスラエル、米国などの国によるプロパガンダ的投稿を禁止していない。そのため米国を含む各国の政府は、AI生成のプロパガンダを使ってSNS上で自国の主張を拡散しており、イスラエルもガザでの戦争に関する大規模な有料広告キャンペーンを展開している。
フェイク映像が暴力を煽り、信頼関係を損なう可能性
それでも、SNS上に偽の戦争映像があふれることは、国家間や国民間の緊張を高め、人々の分断と現実世界での暴力を煽ることにつながりかねない。また、このような動画は、紛争地にいる人々の間の信頼関係を損なったり、何が現実かを判断したりすることを難しくしている。さらに最近では、テルアビブにミサイルが落下する様子や、テヘラン上空を飛ぶB-2爆撃機を描いたAI生成の画像や動画も拡散され、それらの一部は政府関係者や国営メディアによって共有された。
メタとTikTokはコメント拒否、YouTubeはラベル追加など説明
メタの広報担当者は、これら動画についてコメントを拒否した。YouTubeの広報担当ジャック・マロンは、これら動画は同社規則には違反していないとしつつも、リアルで誤解を招く可能性のあるAI生成動画には明確な注意書きを義務づけているため、同社がラベルを追加したと説明した。TikTokもコメントを拒否したが、フォーブスが取材を申し入れた後に、これらの動画を投稿していた匿名アカウントは削除された。
