社会的情報を私たちはことばを使って共有する。つまり、ゴシップを言う。狩猟採集生活を送る人々も、たくさんゴシップを言うことがわかっている。時には悪口も言って、同じキャンプのメンバーをたしなめる。円滑なキャンプ生活のために、ゴシップや悪口が存在するのである。満員電車といった都市生活のストレスが、ゴシップや悪口を生み出すのではない。
1万年前、一生のうちに知ることのできる人間は150人程度であった。そのころ、思いつく限りの人々全員の悪口を、1人1分ずつ言ったとしても、150分で終了する。同じことを、今やってみようと思わないほうがよいだろう。Xを少し開いただけで、一体何人分の情報が流れ込んでくるだろうか。フォロー数が数千や数万という人も珍しくないだろうし、世界中のニュースから世界中の人々の社会的情報が押し寄せてくる。そして、私たちは社会的情報に敏感に反応するように設計されている。結果は、過剰なSNS使用であり、終わりのない悪口祭りである。
一つひとつは決して理解できないことではない。Xを開く。感情的に許せない内容の投稿を目にする。これはひどい。何かを言わなければならない。一万年前のキャンプでも、当然悪口の対象になっただろう。そして、悪口を言う。スクロールする。また、次の看過できない投稿が目にとまる。悪口を言う。スクロールする……。
私たち人間は特に変わっていない。変わったのは環境のほうである。
「希望の言語」活用が有効に
ではどうしたらよいだろうか。人間が設計上ゴシップや悪口を言うのだとすると、「リテラシーを高める」といった個々人の意識や節度に任せる取り組みは、それだけではあまり効果がないだろう。シートベルトも信号もないなかで、「それぞれが気をつけて運転してください」と呼びかけるようなものである。リテラシーを高めるのは良いことだが、それと組み合わせて、オンライン空間にも、シートベルトや信号の導入のような、環境整備が必要になってくる。
ひとつのやり方は、すでに行われてきた積極的な規制である。AIを用いて、ヘイトスピーチをはじめとした有害なコンテンツを自動的に検出し、削除したり表示頻度を減らしたりする、という試みである。
しかしながら、法的な規制でなくとも、このような積極的規制には技術的にも倫理的にもさまざまな課題が存在する。「最先端のAI」を使えばヘイトスピーチやハラスメント発言などさぞ簡単に見つけられるだろう、と思う人もいるかもしれない。しかし、このような有害コンテンツ自動検出技術は、基準の設定、学習用のデータセット作り、そして実際の運用に至るありとあらゆる過程で膨大な人的資源、人間によるセンシティブな判断を必要とし、必ず一定のエラーを含むきわめて人間的なものである。さらには、当然ながら、そのような技術と、表現の自由との間には、常に緊張関係が存在する（注7）。
そこで、積極的規制とは反対の方針をもった、「ホープスピーチ」の活用が今後有効になるかもしれない。ホープスピーチとは、社会的マイノリティへのエンカレッジメントなども含む、何らかの意味で希望的な言説を指す。例えば、1977年に、アメリカではじめて同性愛者であることを公にしながら当選し公職者となった、サンフランシスコ市議ハーヴェイ・ミルクは、同性愛者が選挙で選ばれるということが「前へと進むための青信号」を意味し、同性愛者だけでなくあらゆる人々への希望を与えるとうったえた（注8）。
注7：詳しくは次などを参照してほしい。和泉悠 et al. 2021「AIはレイシズムと戦えるのか―自然言語処理分野におけるヘイトスピーチ自動検出研究の現状と課題」『思想』。
注8：ミルクが1978年6月に行ったとされるスピーチ。https://terpconnect.umd./~jklumpp/ARD/MilkSpeech.pdf（最終アクセス2025年4月17日）。ミルクについて描かれたものとして、ガス・ヴァン・サント監督による伝記映画『ミルク』（2008年）が有名だろう。
