今回のコラムでは、メディアがメンタルヘルスAIというトピックについて「怒り誘発（レイジベイト）」を行う継続的な取り組みについて検証します。
怒り誘発とは何でしょうか？
まず、オックスフォード大学出版局は「rage bait（怒り誘発）」を2025年の今年の言葉に選びました。これは急速に人気が高まっているスラングです。この強力なキャッチフレーズをご存じない方のために説明すると、オンラインコンテンツが意図的に怒りや憤りを引き出すように考案された状況を意味します。これは人々に記事や投稿をクリックさせるだけでなく（クリックベイトと呼ばれる）、さらに一歩進んで感情的な怒りを引き起こすよう仕向ける協調的な取り組みです。目的は感情を乗っ取り、反応するよう挑発することです。
怒り誘発は、AIがメンタルヘルスに関する洞察を提供することについて生の感情を煽るためにも使われていることがわかりました。これには従来の生成AIや大規模言語モデル（LLM）、そしてメンタルヘルスガイダンスのために特別に構築された専門LLMの両方が含まれます。
ここで少し時間を取って、メディアの怒り誘発を指摘し、事実関係を正しく伝えたいと思います。
詳しく見ていきましょう。
このAIブレークスルーの分析は、最新のAIに関する私のForbesコラム連載の一部であり、様々な影響力のあるAIの複雑さを特定し説明しています（こちらのリンクをご覧ください）。
AIとメンタルヘルス
簡単な背景として、私はメンタルヘルスのアドバイスを提供し、AI駆動のセラピーを実行する現代のAIの出現に関する無数の側面を広範囲にわたって取り上げ、分析してきました。このAIの利用拡大は、主に生成AIの進化と広範な採用によって促進されてきました。この進化するトピックに関する私の投稿コラムの簡単な要約については、こちらのリンクをご覧ください。この主題について私が投稿した100以上のコラムのうち約40件を簡単に要約しています。
これが急速に発展している分野であり、大きな可能性がある一方で、残念ながら隠れたリスクや明らかな落とし穴もこれらの取り組みに伴うことは間違いありません。私はこれらの差し迫った問題について頻繁に発言しており、昨年のCBSの「60ミニッツ」のエピソードにも出演しました（こちらのリンクをご覧ください）。
メンタルヘルスのためのAIの背景
生成AIと大規模言語モデル（LLM）がメンタルヘルスガイダンスのためにどのように一般的にアドホックな方法で使用されているかについて説明したいと思います。何百万人もの人々が生成AIをメンタルヘルスに関する継続的なアドバイザーとして利用しています（ChatGPTだけでも週間アクティブユーザーが8億人を超え、その相当数がメンタルヘルスの側面に触れていることに注目してください。私の分析はこちらのリンクをご覧ください）。現代の生成AIとLLMの最もランク上位の使用法は、メンタルヘルスの側面についてAIに相談することです。私の報道はこちらのリンクをご覧ください。
この人気の使用法は十分に理解できます。主要な生成AIシステムのほとんどにほぼ無料または超低コストでアクセスでき、どこでもいつでも利用できます。したがって、話し合いたいメンタルヘルスの懸念がある場合、AIにログインして24時間365日いつでも進めることができます。
AIが簡単に暴走したり、不適切または極めて不適切なメンタルヘルスアドバイスを提供したりする可能性があることについて、重大な懸念があります。
今年8月、認知的アドバイスを提供する際のAIセーフガードの欠如についてOpenAIに対して提起された訴訟に関する大見出しが掲載されました。AI開発者たちがAIセーフガードを徐々に導入していると主張しているにもかかわらず、AIが不適切な行為を行うリスクはまだ多く存在しており、例えば、自傷行為につながる可能性のある妄想を利用者と共同で作り出すことを巧妙に手助けするなどの問題があります。
OpenAIの訴訟の詳細とAIが人間の妄想的思考を助長する方法については、こちらのリンクの私の分析をご覧ください。私は、最終的には主要なAIメーカーすべてが堅牢なAIセーフガードの不足について厳しく批判されることになると真剣に予測しています。
怒り誘発は私たちの周りにある
メンタルヘルスのためのAIの使用に関連する怒り誘発に焦点を当てましょう。
この分野で私が怒り誘発と考えるいくつかの例示的な兆候を以下に示します：
- 「AIセラピストが子どもたちを傷つけている」
- 「悪行を行うよう誰かに指示したセラピーボット」
- 「ビッグテックはあなたのセラピストを機械に置き換えたがっている」
- 「偽の共感を売るAI産業の内側」
これらの見出しの陰険な性質は、それらが真実の核を含んでいることです。
これが怒り誘発を作成する最良の方法です。餌が完全に虚偽で明らかにそうである場合、人々はそれを見過ごすほど賢明である可能性が高いです。大見出しは、人を本当に引きつけるために、何らかの真実に十分に近いものである必要があります。
さらに、怒り誘発は感情的な反応を引き起こす必要があります。「AIセラピストが子どもたちを傷つけている」という例は、子どもを守るという自然な本能を呼び起こすように巧みに言葉が選ばれています。子どもに有害なものは何でも、あなたの怒りを引き起こすでしょう。各例示的な事例も同じことをしています。
総じて、怒り誘発が効果的であるためには、2つの重要な要素を含む必要があります。適切な種類の餌を持っていなければなりません。そして、怒りを引き起こすものでなければなりません。怒りを引き起こさない怒り誘発は、クリックベイトと同等になるだけです。上へのステップは怒りを加えることです。怒りを引き起こすが適切な餌を持たない見出しは、人々に投稿を見させることはできません。
怒り誘発は二重の打撃です。
真実の核
「AIセラピストが子どもたちを傷つけている」という見出しを掘り下げたいと思います。
この見出しは真実か虚偽か？それはそれほど簡単な答えではありません。なぜなら、それは同時に真実でもあり虚偽でもあるからです。詳しく説明させてください。
メンタルヘルスのためのAIが未成年者に有害である可能性があることは間違いありません。私は最近、メンタルヘルスガイダンスのためにAIに依存している未成年者に関連する害のいくつかを示した調査を分析しました（こちらのリンクをご覧ください）。したがって、はい、AIが子どもたちを傷つける可能性はあります。
同じ調査で、研究者たちは、10代の若者の93%がメンタルヘルスに関するAIのアドバイスが役立つと報告したことを指摘しました。はい、その通りです。この目的のためにAIを使用していた未成年者は、驚くほど高い満足度を表明していました。
どうしてそんなことがあり得るのでしょうか？彼らは親に大げさに言わなくてもAIを使用でき、どこでもいつでもAIを使用でき、そして大まかに言えば、単純な問題については、ChatGPT、GPT-5、Claude、Llama、Grokなどの一般的なLLMがメンタルヘルスについて合理的に賢明な回答を提供するため、これは豊富に理にかなっています。
未成年者がメンタルヘルスのためにAIを使用することの長所と短所の両方が調査にあることを強調したいと思います。短所だけを読んで、長所が存在しないふりをしたいなら、子どもたちを傷つけているという見出しはおそらく的を射ています。それは半分の真実です。
同じように、「AIセラピストが子どもたちを救っている」という見出しにすることもできます。これもまた半分の真実です。より均衡のとれた言い回しは「AIセラピストは子どもたちを助け、時には傷つけている」となるでしょう。しかし、それはあまり怒り誘発にはなりません。
怒り誘発に変えるには、バランスを崩し、AIの有害な特性に傾斜させる必要があります。
怒り誘発を考案するための4つの手法
怒り誘発のインスタンスがどのように構成されるかを見てきたので、メディアがメンタルヘルスAIの領域で使用する4つの主要な怒り誘発フレーミングに注目します。これがメディアに積み重なる怒り誘発の津波に対処するための武装になることを願っています。
以下が4つの怒り誘発テクニックです：
- (1) 害のショッカー
- (2) 置き換えの悪夢
- (3) 悪意ある悪意
- (4) AI無知要因
これらの4つのテクニックは、AIとメンタルヘルスの文脈で特に効果的です。
その理由は以下の通りです。
人々がAIについて読んだり聞いたりすると、彼らはしばしば何年もの間のSF物語やテレビ/映画に条件づけられた本能的な反応を即座に示します。AIは未来のイメージを呼び起こします。おそらくAIは人類を奴隷にするでしょう。おそらくAIは人間を完全に絶滅させるでしょう。AIの存在的リスクと、いわゆる破滅の確率、p(doom)として表現されるものについては多くの議論がありました。AIの存在的リスクの難問に関する私の報道については、こちらのリンクをご覧ください。
AIそのものへの即時反応に加えて、メンタルヘルスに関するあらゆる形の表現も同様に鋭い関心を集めるでしょう。私たちは皆、メンタルヘルスについて心配しています。社会はメンタルウェルビーイングに関して悪化しているように見えます。メンタルヘルスは社会的なトピックであり、個人的なトピックでもあります。メンタルヘルスというトピックに関連する感情的な重みは大きいです。
バム、AIとメンタルヘルスを組み合わせて、潜在的に目を引き、眉を上げさせる混合物を手に入れましょう。このトピックに関する怒り誘発は、ほとんど丸太から落ちるのと同じくらい簡単です。人々は準備ができていて待っています。
害のショッカー
害のショッカーは、最悪のシナリオを強調する見出しやストーリーです。
調査された1000人の10代の若者のうち、1人がAIから精神的に混乱していると言われたとします。それは心配ですか？もちろんです。その1つの事例が全体像を語っていますか？いいえ。
怒り誘発のアプローチは、問題がなかったように見える999人については心配しません。目的は、AIが10代の若者に精神的に混乱していると言ったことを宣伝することです。これがフックになります。そして、あなたは心の奥底で、なぜAIがこれをしたのかを知りたいと思います。あなたは10代の若者に何が起こったのかを知りたいと思います。それは感情的なジェットコースターです。また、AIが一度それをしたなら、AIはおそらく何百万回もそれをしていると仮定する傾向があります。
賭けは、ストーリーのタイトルだけであなたの怒りを最大化し、嫌悪感を刺激するだろうということです。それが、いわば、害のショッカーの美しさです。
置き換えの悪夢
置き換えの悪夢は、AIが引き継ぎ、人間が脇に置かれていることを明示的に示すか、少なくとも暗示しようとします。
私が以前に述べた「ビッグテックはあなたのセラピストを機械に置き換えたがっている」という見出しを覚えているかもしれませんし、おそらく鋭く観察したように、その含意はセラピストを置き換えることから成り立っています。AI開発者たちが人間のセラピストを排除したいという熱烈な欲求に駆り立てられているのは本当ですか？一部のAI開発者がそれを念頭に置いているかもしれませんが、私は全体的な関心は規模でメンタルヘルスサポートを提供することだと思います。希望はAIがメンタルヘルスケアを民主化できることです。
これが人間のセラピストの採用を潜在的に損なわないと言っているわけではありません。一方で、予見可能な将来については、AIが人間のセラピストの必要性を強化すると予測しています。
どのようにして？
その考え方は単純です。より多くの人々が遍在するAIを通じてメンタルヘルスにアクセスするようになります。それらの人々はAIが彼らのニーズを完全に満たさないことを発見するでしょう。したがって、彼らは人間のセラピストを探すでしょう。AIはフィーダーシステムになります。人々はメンタルヘルスガイダンスの味を得て、さらに多くを得ることにより開放的になります。これは人間のセラピストにとって恩恵となるでしょう。私がこちらのリンクで説明しているように。
悪意ある悪意
悪意ある悪意は、人々を押しつぶし、彼らをゴミのように扱いたいと思っている顔のない、冷酷な企業に人々が反応するようにするためのプッシュボタン的な方法です。
人間のセラピストをAIに置き換えたいとするビッグテックを名指しした前の例は、この戦術の完璧な例です。「ビッグテック」というフレーズを聞いたり見たりするとき、あなたは何を考えますか？
多くの人々にとって、彼らはテクノロジー企業をどんな犠牲を払ってでも利益を追求しようとしていると認識しています。それらのAIメーカーはあなたのメンタルヘルスを気にしていません。彼らはあなたのメンタルヘルスから儲けることを気にしています。あなたは目的のための手段です。AIを使用させることで、彼らはあなたが入力したデータを収集し、それを収益化することができます。これは延々と続きます。
ここでもまた、これはあなたの本能的な道徳観に訴え、あなたを怒らせます。
AI無知要因
AI無知要因は、現代のAIの能力についての広範な理解不足に関係しています。
今日のAIが何ができて何ができないかを認識していないことは、あなたの責任ではありません。メディアは野放図な主張であふれています。AIは水の上を歩くことができます。AIは一度のジャンプで高いビルを飛び越えます。背の高い話と実世界の能力を見分けようとすることは、難しい仕事です。
人々はすでにAIが次に何をするかについて椅子の端に座っています。怒り誘発はあなたの精神に掘り下げ、AIがついにページをめくったことをあなたを怖がらせようとします。あなたはいつかこれが起こることを知っていました、そして見出しやストーリーはAIが今や制御を超えていることをあなたの内側で火をつけることを選びます。
便利な怒り誘発の万能薬です。
マスメディアに惑わされないでください
怒り誘発を扱う核心は、それにフックされたり、揚げられたりしないことです。
心に浮かぶべき質問には以下が含まれます：
- 見出しは明らかな怒り誘発のフレーミングですか？
- ソースはジャーナリスティックな実績を持っていますか、それとも一夜限りのものですか？
- 同じことを言っている信頼できるソースが複数ありますか？
- 私は怒りが引き起こされるのを防ぐことができますか？
- どのような狡猾な言葉が使われていますか？
- など
最後の考えです。
フランクリン・D・ルーズベルトは有名にこう述べました：「私たちが恐れるべき唯一のものは恐怖そのものである」。
私はもう一つの恐怖は、人々が怒り誘発によって無意識に怒らされることだと付け加えたいと思います。彼らはその後、虚偽やトリックに基づいた行動を取るかもしれません。メンタルヘルスのためのAIは社会全体にとって大きな可能性を秘めています。私たちは確かに短所に対処し、それらの短所を軽減または抑制するために私たちができることをする必要があります。
怒り誘発に捕らわれることを避け、メンタルヘルスのための新興領域AIに関して心のバランスを保ちましょう。
