MetaがAIに巨額を投じ、成長を続けているにもかかわらず、InstagramのAI駆動型広告審査システムは、児童性的虐待コンテンツ（CSAM）を助長する広告を依然として通過させている。少なくともインドではそうだ。あるジャーナリストがこの問題を報告したところ、システムは「ルールに違反していない」と回答した。
証拠はひとつの事例に基づくものだが、そこから見えてくる構図は明白だ。ほとんどの国家を上回る規模でAIに投資できる企業が、自社プラットフォームから児童搾取を締め出せずにいる。業界の専門家が指摘するように、その理由は技術的能力の問題というより、Metaが実際に何を最適化しているかという問題なのだ。
数字が示すMetaの誤りの証拠
過去1年間に行われた3件の独立した調査は、同じ根本的なパターンを示している。Metaの安全対策の失敗は、技術的な限界ではなく、収益インセンティブに沿っているということだ。
- 2026年7月6日： インドIT省がMetaに命令を出し、BBC報道から数日以内に該当広告を無効化し、7日以内にどのように審査を通過したのか説明するよう求めた。これにより、同国における同社の法的セーフハーバーが危うくなった。
- 2026年7月3日： BBC Eyeの調査により、インドで作成されたテスト用Instagramアカウントに「レイプ動画」「子ども動画」といった用語を使った30の広告が表示され、それらは1件99ルピー（約1ドル（約1万未満円））で該当コンテンツを販売するTelegramチャンネルへリンクしていたことが判明した。BBCが、性的暴行を示唆するテキストとともに泣いている子どもを映した広告を通報したところ、Instagramの審査チームは「コミュニティ規定には違反していない」と回答した。
- 2026年3月24日： サンタフェの陪審団はMetaに対し、InstagramおよびFacebookにおける児童の安全性について公衆を欺いた責任があるとして、3億7500万ドル（約609億円）の損害賠償支払いを命じた。Metaの元副社長ブライアン・ボーランド氏は、Instagramのアルゴリズムはユーザーに「より過激で、より刺激的な何か」を見せるように構築されていたと証言し、BBCに対して、自分が同社を去ったのは「彼らがどこのユーザーのことも気にかけていなかった」からだと語った。
- 2025年11月6日： Reutersの入手した文書によれば、Metaは2024年の売上高の約10%、約160億ドル（約2兆6000億円）を詐欺や禁止商品の広告から得ると見込んでいた。同社は自動システムが95%の確度で詐欺と判定した場合にのみ広告主を排除し、その基準を下回る場合は削除せず「ペナルティ」料金を課している。社内目標は、2027年までにその割合を5.8%まで下げるとしており、根絶するわけではない。
この対比を鮮明にするのが、Metaが1月の投資家向け報告で示した2つの数字だ。Metaは2025年に2010億ドル（約32兆6000億円）を売り上げ、そのうち97%が広告収入だった。同年、AIインフラに722億ドル（約11兆7000億円）を費やしている。同社は現在、2026年の設備投資見通しを1250億〜1450億ドル（約23兆5000億円）に引き上げており、87%増となる。これは自社プラットフォームを稼働させ、広告を審査するためのAIシステムを構築する目的だという。
Metaと業界リーダーにとっての意味
BBCのテスト用アカウントは何も隠していなかった。公開されている10のアカウントをフォローしただけで、Instagramのシステムは数日以内に性的示唆のある広告を、1週間以内に児童搾取広告を表示し始めた。ユーザーはどちらも検索していなかった。ここで機能不全を起こしたシステムこそ、Metaや他の業界リーダーが数百億ドル規模で拡張しようとしているタイプのシステムなのだ。
こうした行為に対し、人々はあとどれほど長く容認し続けるのか。代表者に問題を提起し、代替手段を探し始めるまでに、どれほどの時間が残されているのか。これは業界リーダーが注視すべき問いである。最近の訴訟や裁判所の判断を見る限り、世論の熱量は急速に高まっており、統治機関による意味のある行動はかつてないほど近づいているように見える。
