このような文書を読む読者は、高い教養があり賢明で進歩的で、まさか自分がレイシストやセクシスト的行動をするとは思わないだろう。私自身もそうである。しかし、こうした研究が示すのは、私たちは望む望まないに限らず、意識する意識しないに限らず、周りの言語環境に影響を受け、場合によってはマイノリティの不利益になるような行動すら選択してしまうということだ。「差別的な嫌なことばを見たな」と感じる必要すらない。まばたきよりも短い時間（まばたきは300ミリ秒ほど）ほんの一瞬、スクロールする画面の上を通り過ぎた差別的な表現によって、私たちの行動は変化しているかもしれないのだ。
SNS上にあふれる「有害言語」
各種SNSをはじめとした、オンライン空間の「治安が悪い」と感じている人は多いだろうが、実際のところはどうだろうか。
X社（旧Twitter社）も、フェイスブックとインスタグラムを運営するメタ社も、透明性を担保するため、各種の報告書を定期的に公開している。それらの報告書はおおざっぱなもので、統一的でもなければ提示されるデータも限られているが、それでも、膨大な量の有害コンテンツが、SNS上に存在していることがよくわかる。
Xはカテゴリーごとにユーザーによる規約違反の報告数と、削除といった実際に対応を行った数を公表している。2024年上半期の半年間に限ったデータを見てみよう。ヘイト関連の投稿として、6600万件以上のユーザー報告があり、そのうち500万件弱の投稿に何らかの処置がなされている。「暴言やハラスメント」関連としては、約8100万件のユーザー報告、約2600万件の対応が報告されている（注5）。
メタ社は、ユーザー報告数ではなく、実際に何らかの処置を行った投稿数を発表している。同じ期間、まずヘイト関連投稿としては、1460万件（フェイスブック）、1630万件（インスタグラム）、そして「いじめやハラスメント」の項目では、1570万件（フェイスブック）、2040万件（インスタグラム）が、処置を行った投稿数である（注6）。
ここでは、多数ある有害性の分類の、ふたつのカテゴリーに絞って数字を取り上げた。ほかにも児童ポルノやテロ組織といった、別種の有害コンテンツが存在する。また、これらはユーザーが通報したもの、あるいは会社が有害であると明確に認定したものの数に過ぎない。ユーザーや会社が見逃しているものも数多くあるだろう。つまり、上記の数値には偽陽性も含まれるに違いないが、どう少なく見積もっても、億単位の有害投稿がこれらの主要SNSには存在していることになる。
そして、先述の研究などを踏まえると、一瞬そのような有害な言語を目にするだけで、私たちは悪影響を受けているかもしれないのだ。
したがって、残念ながら、企業側が公表する数値を検討する限りでも、オンライン空間の安全性は保証されていないと言うことができる。インスタグラムやXはメジャーな公共空間である。人気のない夜の裏通りの話をしているのではなく、ブランド店が立ち並ぶような大通りの話をしているのである。そこを子どもがまっすぐただ歩くのが安全ではない、というような状況に、現在の情報空間は陥っているのである。
注5：X社の“Global Transparency Report H1 2024”https://transparency.x.com/en/reports/transparency-reports（最終アクセス2025年4月15日）。
注6：メタ社の “Community Standards Enforcement Report” https://transparency.meta.com/reports/community-standards-enforcement/（最終アクセス2025年4月15日）．
