性的な写真や動画をだまし取られ、「ネットにさらす」「拡散する」などと脅されて金銭を要求されるセクストーションの被害件数は増加傾向にある。子どもや10代の若者が標的となる事例が増えており、警察も警告を発する中、SNS上で未成年ユーザーをどのように守るかが課題となっていた。
メタは、こうした問題や、ヌード画像を一方的に送り付けられる迷惑行為に対処するため、インスタグラムのダイレクトメッセージ(DM)に「ヌードフィルター」を近く導入すると発表した。インスタグラムが性的な画像を共有・要求する場として利用され、詐欺被害も生じていることを同社は認めている。
この新機能は、送信されたヌード画像を自動的に検出して「ぼかし」を入れる。また「送信する前によく考える」ようユーザーに促し、「返信しなければならないというプレッシャーを感じる必要はない」と伝え、気が変わったなら送信を取り消すことが可能だと注意喚起する。
フィルター機能は、ユーザーに受信した画像を削除するか表示するかの選択肢を提供する。また、センシティブな画像をオンラインで送信する場合、同意なしに画像が共有されたりスクリーンショットを撮られたりするリスクや、相手が身元を偽っている可能性があることなど、注意すべきポイントやヒントをユーザーに提示する。
メタによると、この機能は全世界の18歳未満のユーザーを対象に「デフォルトで有効」になり、成人に対しては「有効にするよう促す」通知が届く。