ネオナチ、生成AIで作った「プロパガンダ動画」をTikTokで拡散

ある独立した人権団体は、TikTokがネオナチのアカウントをホスティングし、その宣伝にひと役買っていると指摘している。これらのアカウントは、ホロコーストの否定やヒトラーの賛美、白人至上主義者による銃乱射事件の支持などをする動画を投稿していた。彼らは、生成AIを使って動画を作成し、暗号化された単語や音声を用いたり、フィルターを回避するために画像をぼかしたりしていた。

「ナチズムを公然と支持し、そのイデオロギーとプロパガンダを促進するために動画アプリを使用する数百ものアカウントをTikTokはホスティングしている。投稿された動画の中には、ホロコーストを否定するものやヒトラーやナチス時代のドイツ、ナチズムを現代における問題の解決策として賛美するもの、白人至上主義者による銃乱射事件を支持するもの、これらの乱射事件のライブ映像や再現動画が含まれる」とInstitute for Strategic Dialogue（ISD、戦略的対話研究所）はレポートの中で述べている。

同研究所は、まず1つのネオナチによるアカウントを発見し、その後数百ものアカウントのネットワークを見つけたという。YouTubeが人種差別主義者たちによってメッセージの拡散に利用されてきたのと同様に、TikTokのアルゴリズムも、ユーザーが好む種類の動画を提供するように機能している。その結果として、同じようなコンテンツがますます増える結果となっている。TikTokのアルゴリズムは、「おすすめページ」でもまったく同じように機能し、ヘイトスピーチや誤情報を推奨している。

「ダミーアカウントを使ってネットワーク内の10のアカウントと合計10本の動画を閲覧した後、おすすめページに表示された3本の動画をスクロールしたところ、ナチスのプロパガンダ動画を推奨された。より長い期間運用しているダミーアカウントでは、おすすめページに表示される動画の大半がナチズムやヘイトスピーチを助長するものだ」とレポートは述べている。