問題の複数のアカウントは、遺体が路上を引き回される様子や、銃を持ったテロリストの姿、「ジハーディスト(聖戦主義者)であることを誇りに思う」と宣言する女性らを写した動画を投稿していたという。
これらの動画は、キャッチーな音楽を使用して若者にアピールするための編集が加えられており、1000以上のフォロワーを持つアカウントもあったという。
TikTokはテロ組織による投稿を禁止し、米国やカナダのチームがアルゴリズムを用いたコンテンツ監視を行っていたが、WSJからの指摘を受けるまで、この事実に気づかなかったという。
フェイスブックやユーチューブらも、莫大なコストを投じてテロ組織による投稿を防いでいるが、問題のある投稿を完全に排除することは難しい。TikTokの広報担当はフォーブスに宛てたEメールで次のように述べた。
「悪意を持つ者による投稿の根絶は、業界全体が取り組むべき課題だ。当社は専属のチームを結成し、これらの不正行為の追放を目指している」
TikTokは10代を中心に世界的人気を確立し、アップルのアップストアのダウンロードランキングでは3位に入っている。TikTokの運営元は中国企業のバイトダンスで、同社は中国政府の検閲を許しているとして、非難されていた。
フェイスブックが2020年の米国大統領選を控え、政治的コンテンツの取り扱いに苦慮している一方で、TikTokは政治広告の全面禁止措置を導入済みだ。