未成年の露骨なコンテンツを削除する「Take It Down」にメタが出資

Getty Images

行方不明になった子どもや性的に搾取された子どもの問題に対処する非営利組織の「全米行方不明・被搾取児童センター(NCMEC)」は、Facebook(フェイスブック)の親会社であるMeta(メタ)の出資を受け、子どもや十代の若者が自分の性的な写真や動画を、SNSから削除するのを支援するプラットフォームの「Take It Down」を立ち上げた。

Take It Downは、この取り組みに参加するSNSのみで機能する。現状の参加プラットフォームは、メタが保有するフェイスブックとInstagram(インスタグラム)に加え、フランスの10代向けのSNSのYubo、さらにPornhubとOnlyFansの5つになっている。

NCMECのCEOのミシェル・デローンは「多くの子どもたちが絶望的な状況に直面している。私たちの願いは、子どもたちがこのサービスを知ることで安堵感を覚えることだ」と述べている。

NCMECは、子どもの安全問題に関する橋渡し役として、オンライン企業と法執行機関をつないでいる。2021年に同団体は、インターネット上のセクストーションや児童の性的虐待のコンテンツについて約3000万件の通報を受け取ったが、その大半はメタが所有するプラットフォームからのものだった。

未成年者と保護者は、NCMECの無料の匿名ツールを使って、オンラインで拡散されたまたは拡散されると思われる未成年の露骨なコンテンツにフラグを立てられる。その後、そのコンテンツの「ハッシュ」と呼ばれるデジタルの指紋をNCMECがソーシャルメディア企業と共有し、制限や削除、および監視を行うという。

NCMECによると、問題の写真や動画はデバイスの外に出ることはなく、誰にも見られることはないという。また、ハッシュは、NCMECにもSNS側にも被害者を特定できないようにし、画像が削除されるべきものであることだけを知らせる。これまでハッシュのデータベースが侵害され、個人が特定されるような事態は発生していないとNCMECは述べている。
次ページ > メタの「暗号化」の取り組みが障害に

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事