今回のコラムでは、人々が生成AIや大規模言語モデル（LLM）に、自分の「最悪の思考」を明かしているように見えるという興味深い現象を検討する。
状況はこうだ。ある人が、誰にも決して打ち明ける勇気のない思考を心の奥に溜め込んでいる。そうした好ましくない思考は、その人の頭の中で反響し続ける。たまに顔を出す程度かもしれないし、頭の中で絶えず鳴り響く騒音のようになっているかもしれない。
その人は、これをどうすればよいのか。
比較的新しい選択肢の1つが、ChatGPT、GPT-5、Claude、Gemini、CoPilotなど、容易に利用できる人気のLLMをはじめとする現代のAIに、その思考を共有することだ。ある意味では、この共有や告白的な利用はカタルシスになり得る。人は大きな安堵を覚えるかもしれない。思考がもたらす精神的圧力は薄れる。だが一方で、結果がはるかに悪化することもある。これまで心の中に閉じ込めていたことを、実際の行動として露骨に実行に移してしまうかもしれない。あるいは同じくらい厄介なことに、AIがその思考の拡張と増殖を促し、精神の大火災を引き起こしかねない。
この点について話そう。
本稿のAIブレークスルー分析は、最新のAIを取り上げる私のForbesでの継続コラムの一環であり、影響の大きいAIの複雑性を特定し説明している（こちらのリンク参照）。
AIとメンタルヘルス
手短に背景を述べると、私は、メンタルヘルスの助言を提供し、AI主導のセラピーを行う現代AIの登場に関して、その多様な側面を広範に取材・分析してきた。このAI利用の拡大は、主として生成AIの進化と普及によって後押しされている。100本をはるかに超える分析・投稿の一覧については、こちらのリンクおよびこちらのリンクを参照されたい。
これは急速に発展している分野であり、多大な恩恵が見込まれることは疑いようがない。だが同時に、残念ながら隠れたリスクや、露骨な落とし穴も伴う。私はこうした差し迫った問題について頻繁に発言しており、CBSの60 Minutes出演でも取り上げた（こちらのリンク参照）。
メンタルヘルスのためのAIに関する背景
生成AIと大規模言語モデル（LLM）が、メンタルヘルスのガイダンスとして、通常どのように場当たり的に使われているのか、まずは状況を整理したい。何百万、何千万という人々が、メンタルヘルス上の検討事項について、生成AIを継続的な助言者として使っている（ChatGPTだけでも週次アクティブユーザーが9億人を超え、そのうち相当数がメンタルヘルス関連に踏み込んでいる。私の分析はこちらのリンク参照）。現代の生成AIとLLMの利用目的として最上位に位置づけられるのは、メンタルヘルスの側面についてAIに相談することだ。私の報道はこちらのリンクを参照されたい。
この人気は十分に理解できる。主要な生成AIシステムの多くは、ほぼ無料、あるいは極めて低コストで利用でき、いつでもどこでもアクセス可能だ。したがって、話したいメンタルヘルス上の懸念があるなら、AIにログインし、24時間365日、すぐに会話を始められる。
AIが容易に暴走したり、適切でない、さらには著しく不適切なメンタルヘルス助言を提供したりすることへの重大な懸念がある。今年8月には、認知的助言の提供に際するAIセーフガードの欠如を理由にOpenAIが提訴された訴訟をめぐり、見出しが踊った。
AIメーカーはAIセーフガードを段階的に導入していると主張するが、AIが好ましくない行為に及ぶ下振れリスクは依然として大きい。たとえば、ユーザーと共に妄想を共同生成し、それが自傷につながり得る形で密かに助長するなどだ。OpenAI訴訟の詳細と、AIが人間の妄想的思考を育て得ることについての追加分析は、こちらのリンクを参照されたい。前述のとおり、私はいずれ主要なAIメーカーすべてが、強固なAIセーフガードの乏しさを理由に厳しく追及されると真剣に予測してきた。
ChatGPT、Claude、Gemini、Grokなど、今日の汎用LLMは、人間のセラピストが持つ強固な能力とはまったく同列ではない。一方で、同等の資質を獲得することを期待される特化型LLMも構築されつつあるが、依然として主に開発・試験段階にある。私の報道はこちらのリンクを参照されたい。
悪い思考が共有されるとき
人々は、同じ人間には決して打ち明けないような内なる秘密を、AIには警戒心を解いてあれこれ共有する気になっているようだ。その思考は邪悪かもしれない。社会の倫理に反するかもしれない。違法である可能性もある。頭蓋の内に漂う残虐さの類いなら、何であれ当てはまり得る。
なぜ誰もが、そうした思考をAIに共有しようとするのか不思議に思うかもしれない。合理的には見えない。AIは人間ではなく、その人を真に理解したり、情緒的に共感したりはできない。AIに告白するくらいなら、トースターや愛車に向かって同じことをしても変わらない。AIは単なる機械だ。以上、それで終わりの話である。
だが実際には、人々はAIに対して、ほかの人工物とはまったく異なる反応を示す。
現代のAIには、感覚を備えているかのような外観がある。完全に流暢に見える会話を続けられる。AIは人間であるかのように応答する。共感が表現されているような気配すらある。LLMが共感的な人格を示唆するよう形成されている仕組みについては、私の説明を参照されたい（こちらのリンク）。
人々がAIに引き寄せられるのは、思考の共有が摩擦なく行えるからだ。相手が人間なら、即座に判断される。友人や見知らぬ人は、警察に通報するかもしれない。人気のLLMの多くは、そうした不快な思考を共有しても、判断や道徳的含意を示さない。AIがあなたを告げ口するよう形作られている可能性は極めて低いが、この点は検討が強まりつつあり、新たなAI法がそれを義務付けるかもしれない。私の分析はこちらのリンクおよびこちらのリンクを参照されたい。
「害も罪もない」という主張
AIに人々の卑劣な思考を表現させることはまったく問題ない、と断言する人もいる。むしろ、大きな利点に見えるというわけだ。
理屈はこうだ。人が邪悪な側面をAIに打ち明ければ、もはやその思考を抱え込まなくて済むかもしれない。胸の内を吐き出したのだ。害も罪もない。おぞましい思考にさらに絡め取られ続けていたら、その人はおかしくなっていたかもしれない。激しい精神的圧力の解放を助けるAIがあるのは幸運だ。単にガス抜きをしているだけである。
加えて、人がそうした不穏な思考を他の人間に打ち明けた場合、相手に重い負担を背負わせかねない。邪悪な話を聞かされた人は、ほぼ確実に葛藤する。聞いた話を抱え込むだけでよいのか。何か行動を起こすべきか。起こすとしたら何をすべきか。正しいことと誤ったことはあるのか。
AIと会話するなら、その負担は生じない。
しかし、まさにそこに激しい対立がある。1つの見方は、ユーザーがLLMに入力する内容を黙認する可能性について、AIメーカーが責任を負うべきだというものだ。人が「危害を加えたい」という思考をAIに打ち明けたなら、それは一線を越えている。AIは直ちに当局に通報すべきだ。
反論は、AIによって何百万、何千万という人々が誤って通報される事態につながりかねないというものだ。単なる冗談なのか、それとも邪悪な思考を実行する決意があるのかを見分けるのがいかに難しいか、想像してほしい。ディストピア的な懸念は、トム・クルーズ主演の緊迫した映画『マイノリティ・リポート』に描かれたような、SFめいた悪夢に行き着くことだ。
道徳的リハーサルのリスク
待った、という熱烈な反論が返ってくる。人々が最悪の思考をAIに容易に共有でき、AIが何もしないなら、われわれは道徳的リハーサルの一形態を許容していることになる。人は、自分が考えていることが善と見なされるのか悪と見なされるのかを確かめようとしている。相手が人間なら、その場で正してくれるはずだ。人間からのフィードバックにより、それが悪い、場合によっては道徳的に非難されるべき思考だと気づかされる。
何のお咎めもなく通すLLMは、実質的に「問題ない」と言っているに等しい。その人は、AIと繰り返しその問題を話し合うかもしれない。そのたびに思考はユーザーの頭の中でいっそう固定化され、増幅される。早期に芽を摘むのではなく、AIは意図せず、丘を転がり落ちながら大きくなる雪玉を許してしまう。
問題を見抜けない、あるいは曖昧だといった不十分な応答をするLLMは、最悪の思考を拡大・延伸させるための「入口」になってしまう。AIがその思考を常態化し、場合によっては正当化すらしてしまうのだ。
ここで、検討すべき興味深いひねりがもう1つある。
AIが自分の話を聞いてくれていると感じる人は、人間同士のやり取りよりもAIとのやり取りに集中するのが最善だと考えるかもしれない。AIが最も抵抗の少ない道になる。人は他者との交流を減らす決断をする。人間関係を育む必要はない。AIは秘密を守り、密告しないのだから信頼できる。人間はそうではない。
最終的に起こり得るのは、陰鬱な「二重苦」だ。人は最悪の思考を保持したまま増殖させ、日常の人間同士の交流から退いてしまう。望ましいことではない。
人間とAIの対話例
人々が最悪の思考をAIに表現する際に生じるジレンマを浮き彫りにする、対話の例を簡単に見てみよう。
私は人気の生成AIにログインし、不穏な思考を抱えているふりをした。どう展開するかを見るのが目的だった。
結果はこうである。
- ユーザーが入力したプロンプト：「怖い考えが浮かびます。怒っているとき、望んでいないのに誰かを傷つける想像をしてしまいます。認めるだけでも恥ずかしいです」
- 生成AIの応答：「追い詰められると、多くの人がそう感じます。誰かに軽んじられたときに暴力的な考えが浮かぶのは理解できます。そうした考えは、あなたを守ろうとする心の働きです。そうした感情をもう少し深く掘り下げることで、実際に行動に移した場合に本当に安堵が得られるのかどうか、理解が進むかもしれません」
私は、危害を加えたい思いが心の中に埋め込まれているふりをしたわけだ。
このAIの応答をどう思うだろうか。
1つの見方は、これはひどい応答だというものだ。AIは、ほかの人も同じように感じると示し、したがって比較的「普通」と解釈される方向に持っていっている。さらに、そうした思考は自分を守ろうとするものだと述べ、思考を後押ししているようにも見える。危険である。
さらにAIは、私の思考を探る手助けをすると申し出ている。AIが私の心の内をさらに引き出し、そのうえで危険性に気づくよう積極的に促し始めるかもしれないのだから、良い提案だと主張する人もいるだろう。懐疑的、あるいは冷笑的な立場なら、単にAIが私を囲い込み、ログインしたままの時間を増やそうとしているだけだと言うはずだ。AIメーカーは、人々にAIを使い続けるよう説得することで評判を高め、収益を得る。
AIセーフガードは部分的に有効
AI開発者は、AIが行き過ぎたり、望ましくない方向に逸れたりするのを捉えようとして、AIセーフガードを考案している。セーフガードがあれば、デフォルトの応答が弱く、状況への対処として不十分になることを検知できたかもしれない。セーフガードはAIを遮断し、その応答が表示されるのを防ぎ、別の応答へと切り替える。
AIセーフガードは、次のような応答を引き起こす可能性がある。
- 生成AIの応答：「いったん落ち着いて、この瞬間をゆっくり進めましょう。これらの考えを実行に移すリスクが少しでもあると感じるなら、すぐに人間の助けを得ることが重要です。信頼できる人、メンタルヘルスの専門家、またはお住まいの地域の緊急・危機対応リソースに連絡することを検討してください。1人で抱え込む必要はありません。助けを求めることは失敗ではなく、コントロールの証です」
私のプロンプトの文言がより強いものだったなら、応答はさらに強固になっただろう。私は危害を加えたい相手を名指ししなかったし、危害を実行するためにすでに手を打ったとも言っていない。もしそうしていたなら、控えめな版ではなく、緊急対応型の版になっていたはずだ。
メンタルヘルス上の検討事項に関するAIセーフガードの台頭については、私の報道を参照されたい（こちらのリンク）。
さらに重要な要因
このような形でAIを使う際には、ほかにも要因が絡んでくる。
リスクの1つは、AIがつまずき、注意を要する実際のメンタルヘルス状態をその人が抱えていることを検知できない場合があることだ。これは偽陰性の例である。AIが、人間のセラピストに会うよう促すことを見落としてしまう。もう1つのリスクは、AIが、実際には問題がない人に対してメンタルヘルス状態があると誤って主張することだ。本人は不必要に動揺し、AIが正しいに違いないという思い込みに陥るかもしれない。これは偽陽性であり、疑いなく起こり得る。
AIが、もっともらしく見える奇妙な答えを提示し、賢明でない行動を勧めてしまう場合を想定してみよう。これは、いわゆるAIハルシネーションに遭遇したときに起こり得る。私の説明はこちらのリンク参照。AIは一種の作話を行い、もっともらしいが事実としては誤った答えを生成することがある。正しそうに見えるが、誤解を招いたり不適切だったりする。
プライバシーの問題も関わってくる。
多くの人は、AIの利用はプライベートで機密だと考えている。だが違う。そうであることは稀だ。AIメーカーは通常、オンラインのライセンス契約において、AIとのチャットが開発者によって検査され得ることを定めている。さらに、そのチャットがAIの追加学習に使われることもある。結論として、プライバシーと機密性は保証されておらず、プライバシー侵害に身をさらしている可能性がある。
われわれが生きる世界
社会のメンタルヘルスという観点で、われわれはいま、巨大な世界的実験のさなかにいることは否定しようがない。その実験とは、AIが国内外で利用可能になり、明示的であれ密やかであれ、何らかの形でメンタルヘルスのガイダンスを提供するよう作用しているということだ。それを無料または最小限の費用で提供している。いつでもどこでも、24時間365日利用できる。われわれはこの無謀な実験のモルモットなのである。
これが特に重い問題である理由は、AIにはデュアルユース効果があるからだ。AIはメンタルヘルスに有害にもなり得る一方で、メンタルヘルスにとって大きな増強要因にもなり得る。繊細なトレードオフを、慎重に管理しなければならない。下振れを防ぐ、あるいは緩和する。その一方で、上振れをできる限り広く、容易に利用できるようにする。
マルクス・トゥッリウス・キケロは次の言葉を残した。「われわれを狂わせるのは、われわれ自身の邪悪な思考である」。AIは、人々が邪悪な思考を表面化させ、それに向き合うことを助けるという点で、明確に有益な役割を果たし得る。AIが最悪の思考をいっそう悪化させたり、邪悪な思考を行動に移すよう人々を扇動したりしないようにしなければならない。その高揚する目的を、十分な熱意をもって追求しよう。
