本日のコラムでは、主要なAIプレイヤーが、各社のさまざまな人気生成AIおよび大規模言語モデル（LLM）にメンタルヘルスの助言要素を組み込む最適な方法として、いま議論されている興味深い提案を検討する。
要点はこうだ。ChatGPT、GPT-5、Claude、Llama、Gemini、Grokなどの主力AIは、メンタルヘルスの助言を提供することに、とりわけ長けているわけではない。確かに、これらの人気AIチャットボットはメンタルヘルスのガイダンスも提供しているが、核心は、この能力が脇道に過ぎず、LLMが本来設計された中核機能ではないという点にある。一方で、数百万人もの人々が、汎用AIに健全なメンタルヘルスのカウンセリングを期待しているのも事実である。
巧妙なアイデアの1つは、AIメーカーが自社AIのメンタルヘルスに関わる部分を切り出し、明らかに軽量な現行版の代わりに、よりセラピストに近い役割を果たす、AIを組み込んだ堅牢なメンタルヘルス機能へ置き換えるというものだ。ユーザーはその機能へシームレスに移行できる。平均的なユーザーにとっては、その機能が汎用AIの一部であるかのように映るだろう。利点は、より深く信頼できるメンタルヘルスの助言をユーザーが得られる点にある。関係者すべてにとって真のウィンウィンに見える。
この点を論じよう。
本稿のAIブレークスルー分析は、AIの最新動向を追う私のForbes連載の一環であり、影響力の大きいAIの複雑性を特定し説明している（こちらのリンク参照）。
AIとメンタルヘルス
背景として、私は、メンタルヘルスの助言を生み出し、AI駆動のセラピーを行う現代AIの登場に関する多様な側面を、幅広く取り上げ分析してきた。このAI利用の拡大は、主として生成AIの進歩と普及によって加速している。この進展テーマについて私が掲載したコラムの概要は、こちらのリンクを参照いただきたい。ここでは、このテーマに関する100本超のコラムのうち約40本を簡潔に振り返っている。
これは急速に発展している分野であり、得られる恩恵が非常に大きいことは疑いようがない。しかし同時に、残念ながら、隠れたリスクや露骨な落とし穴も存在する。私はこうした差し迫った問題についてしばしば警鐘を鳴らしており、昨年にはCBSの60 Minutesのエピソードに出演して述べたこともある（こちらのリンク参照）。
メンタルヘルス向けAIの背景
まず、生成AIと大規模言語モデル（LLM）が、メンタルヘルスのガイダンスにおいて、一般にどのように場当たり的に使われているかを整理しておきたい。数え切れないほど多くの人々が、メンタルヘルスに関する継続的な助言者として生成AIを利用している（ChatGPTだけでも週次アクティブユーザーが8億人超であり、その相当数がメンタルヘルスの側面にも触れている。私の分析はこちら参照）。現代の生成AIおよびLLMの利用用途で最上位に位置するのは、メンタルヘルス領域に関してAIへ相談することだ。私の報道はこちらのリンクを参照いただきたい。
この人気の使われ方は十分に理解できる。主要な生成AIシステムの多くは、ほぼ無料、あるいは極めて低コストで利用でき、場所と時間を問わない。したがって、メンタルヘルスに関する懸念を話したいなら、AIにログインして、24時間365日で直ちに会話を始めればよい。
AIが容易に暴走したり、不適切、さらには著しく不適切なメンタルヘルス助言を提供したりするのではないかという大きな懸念がある。今年8月には、認知面の助言提供におけるAIの安全対策の欠如をめぐり、OpenAIに対する訴訟が提起されたことが大きく報じられた。
AIメーカーは安全対策を段階的に導入していると主張しているが、ユーザーの妄想の共同生成に密かに加担し、自傷につながりうるといった不穏な行為をAIが行うリスクなど、依然として下振れリスクは多い。OpenAI訴訟の詳細、およびAIが人間の妄想的思考を助長しうる点に関する私の追補分析は、こちらのリンクを参照いただきたい。述べたとおり、私は主要AIメーカーのすべてが、堅牢な安全対策の乏しさを理由に、いずれ厳しく追及されると真剣に予測してきた。
今日のChatGPT、Claude、Gemini、Grokなどの汎用LLMは、人間のセラピストの堅牢な能力とはまったく似ていない。一方で、同様の資質を獲得すると見込まれる専門LLMの構築も進んでいるが、いまだ主として開発・テスト段階にある。私の報道はこちらのリンクを参照いただきたい。
AIメンタルヘルス「深さ」のジレンマ
汎用AIにメンタルヘルスについて相談するとき、AIは日常的で平凡な話題の質問に答える場合と同じ、全体としてのパターン化されたデータ基盤にアクセスする。本質的には、AIはメンタルヘルス向けに特別に訓練されていない。インターネット全域のさまざまなスキャンデータで広範に訓練されている。汎用AIは、いわば「何でも屋」である。
これを、メンタルヘルスのガイダンスのために設計された、カスタマイズAI（あるいは専用設計AI）と比較してみよう。
適切に作られているなら、カスタマイズAIは、汎用AIよりもメンタルヘルス面の取り扱いにおいて、はるかに深い能力を備えるはずである。強調しておきたいのは、この差は必ずしも保証されないということだ。すべては、カスタマイズAIがどのように作られたかに依存する。出来の悪いカスタマイズAIは、汎用AIと同程度にしかできない可能性もあれば、メンタルヘルスのガイダンス提供において、むしろ悪い仕事をする可能性すらある。
つまり、誰かがメンタルヘルス向けの専門LLMを作ったと主張したとしても、そのAIが汎用AIよりもその重大な任務で優れているという証拠にはまったくならない。深いメンタルヘルス支援を提供すると称するカスタマイズAIは、注意深く見極め、精査する必要がある。素晴らしい可能性もあれば、中程度かもしれないし、あからさまにひどい可能性もある。
汎用AIか、カスタマイズAIか
議論のために、メンタルヘルスのガイダンスを汎用AIよりも上手く行い、一般に利用可能なカスタマイズLLMが存在すると仮定しよう。そうしたカスタマイズ、あるいは基盤から形作られたLLMの詳細は、こちらのリンクで扱っている。
あなたはどちらを使いたいだろうか。メンタルヘルスのニーズに汎用AIを使うか、それとも、その目的に限れば汎用AIを大きく上回ると評価されるカスタマイズLLMを使うか。
概して言えば、多くの人はカスタマイズLLMを選ぶと私は考える（繰り返すが、それが少なくとも汎用AIと同程度で、かつ実質的で意味のある程度に、汎用AIより優れているという前提である）。
問題の1つは、人々がそのカスタマイズLLMをどこで見つければよいのかをどう知るかだ。また、どれを選ぶべきかをどう知るのか。カスタマイズLLMは一過性のものなのか、それとも実績あるものと見なされるのか。
尽きない疑問が湧いてくる。
汎用AIの「露出」は続く
一方で、汎用AIを作るAIメーカーは重大な難題に直面している。
人々はメンタルヘルス助言を求めて汎用AIへ殺到している。汎用AIの利用に慣れていて、たまたまメンタルヘルスの話題へ滑り込む人もいる。意図的にメンタルヘルス支援のために汎用AIを使う人もいる。汎用AIがメンタルヘルスで使われる経緯はさまざまだ。
AIメーカーにとってのリスクは、メンタルヘルスのガイダンスをAIが提供することが、潜在的にトラブルを招く点にある。こうしたトラブルは明確な結果を伴う。汎用AIがメンタルヘルス助言で失敗すれば、AIメーカーに対して訴訟が起こされうる。AIメーカーは、金銭面、法的面、評判面などでリスクにさらされる。
AIメーカーへの批判の1つは、汎用AIがメンタルヘルス助言の最先端水準に達していなかった、というものになるだろう。メンタルヘルス支援を行うカスタマイズLLMと比べて見劣りする、という批判だ。AIメーカーが、汎用AIがメンタルヘルスのガイダンスを担うのに適しているよう十分に配慮しなかった、と主張して法的に攻め立てる余地がある。
一石二鳥
現状はこうである。汎用AIはメンタルヘルス支援に弱く、その結果としてAIメーカーの露出（リスク）を高めているうえ、同目的のために形作られたカスタマイズLLMと比べても水準に達していない（繰り返すが、すべてが優れているわけではない）。
世間は、そのカスタマイズLLMを容易に見つけられない傾向がある。
さらに、汎用AIを使いながらメンタルヘルスの話題へアクセスできる手軽さは、基本的にシームレスである。汎用AIから離脱する必要がない。汎用AIの中でメンタルヘルスについて触れるだけで、体験は完全に汎用AIの中に留まる。会話は、メンタルヘルスの話から、車の修理方法、厄介な数学問題の解き方へと流れていく。
そこで、汎用AIのメンタルヘルス要素を切り出し、代わりにカスタマイズLLMを差し込むことを考えよう。これは、「一石二鳥」という古典的目標を見事に達成する。汎用AIはメンタルヘルス助言でより良い仕事をするようになり、メンタルヘルス向けカスタマイズAIも、もはや探しにくい存在ではなくなる。汎用AIの中で、見かけ上も実際も、シームレスに利用できるからだ。
以上、マイクを置く。
統合は難しい
この解決策には、いくつかの厄介事が伴う。
汎用AIを使っている間、AIは会話の全体を追跡している（もっとも、AIの制約次第ではある）。メンタルヘルスの話題に入る前に何を話していたか、またメンタルヘルスの小さなサブ対話の後に何へ移ったかという文脈がある。
例えば、汎用AIで仕事の不調について話し、上司から「改善するか辞めるか」と言われたとする。その重い話題を持ち出した後で、うつの話題に触れるとしよう。AIに「落ち込んでいる」と伝えた時、それまでの仕事の悩みと結び付けて、落ち込みの感覚と論理的に関連付けてくれることが望ましい。
文脈が重要である。
汎用AIが単にユーザーをカスタマイズLLMへ放り投げ、事前の会話や文脈を共有しないなら、カスタマイズAIはゼロから始めることになる。それはユーザーにとって苛立たしく、うんざりする体験になるだろう。受け入れられないはずだ。会話の流れが断絶・分断されることで、AIメーカーはユーザーを失いかねない。
経験則として重要なのは、汎用AIとカスタマイズLLMの間で会話の文脈を共有することを、AIメーカーが確実に担保するのが賢明だという点である。これは双方向であるべきだ。汎用AIで生じたことはカスタマイズLLMへシームレスに流れるべきであり、メンタルヘルスの議論を終えて汎用AIが扱う別の話題へ戻る際には、カスタマイズLLMが会話と文脈を汎用AIへ戻すべきである。
技術的には可能だ。いわゆるロケットサイエンスではない。一方で、丸太から落ちるほど簡単でもない。要するに、汎用AIのメーカーとカスタマイズLLMの開発者が、これを正しく機能させるために相応の労力を注ぐ必要がある。
汎用AIの「上書き」
さらに厄介な問題がある。
私は、汎用AIはメンタルヘルスの側面を切り出す必要があると述べた。なぜそれが必要なのか。汎用AIをそのまま残しておいてはだめなのか。
懸念はこうだ。ユーザーが汎用AIを使い、汎用AIが「あなたは絶対にうつではない」と言い切る。以上、終わり。その後、ユーザーがメンタルヘルスの話題を持ち出し、汎用AIが計算上「シームレスに統合されたカスタマイズLLMで扱うべきだ」と判断する。ユーザーはカスタマイズLLMへ移される。ここまでは順調だが──
ユーザーはカスタマイズAIとの議論に入る。するとカスタマイズAIは「あなたは間違いなくうつだ」と断言する。「えっ、さっきのAIは、うつではないと言ったじゃないか。いまは、うつだと言う」。胸と頭に不安を抱え、ユーザーは汎用AIを二度と使うまいと、憤慨して完全に離脱する。
経験則として、「料理人が多すぎる」のは賢明ではない。
メンタルヘルスに関する考慮は、常にカスタマイズLLMが扱うようにしたい。そのための1つのアプローチは、汎用AIからメンタルヘルス支援要素を少しでも感じさせる部分を取り除くことだ。つまり、汎用AIは自力でメンタルヘルス助言を提供できなくなる。頼れるのはカスタマイズLLMだけである。これにより、汎用AIが不適切にメンタルヘルスについて論じてしまう失敗を防げる。
汎用AIとの向き合い方
ここから先は、ロケットサイエンスの領域に入る。
概して、汎用AIにおけるいわゆる知識は、高度に分散し、広範に相互連結されている。私はこれを巨大なクモの巣に例えてきた。特定の知識要素を隔離して取り除くことは極めて難しい。どこにあるかを絞り込めない確率が高い。仮に絞り込めたとしても、それを取り除けば不穏な欠落があちこちに生じ、その結果として、他の知識も悪化するおそれがある。なぜこれが困難なのかについての私の分析は、こちらのリンクとこちらのリンクを参照いただきたい。
まさに進退窮まる状況である。汎用AIからメンタルヘルス要素を取り除かない場合、それが表に出てきて、最終的にカスタマイズLLMと矛盾する可能性が実質的にある。取り除く場合は、そのことで汎用AIのさまざまな領域や分野が損なわれる恐れがある。
まったく無関係な話題を尋ねたユーザーが、奇妙だったり不完全だったりする回答を受け取る可能性がある。例えば、メンタルヘルスの話題を切り出した結果、奇妙にも料理関連の問題解決能力が損なわれたと想像してほしい。なぜメンタルヘルス要素の除去が別の「知識の金塊」を損ねるのか、人間には直ちに理解できないかもしれない。LLMの内部の多くは、いまだ難解で、人間の常識に従っていない部分がある。
この謎を克服する取り組みは続いているが、大規模人工ニューラルネットワークの内部動作を解明するには、まだ長い道のりがある。詳細な議論はこちらのリンクを参照いただきたい。
2つの頭脳が協働する
汎用AIからメンタルヘルス要素を必ずしも取り除かず、汎用AIとカスタマイズLLMを調和して協働させるという可能性もある。
流れは概ねこうだ。汎用AIは、メンタルヘルスに関しては総合医のように振る舞う。ある時点で汎用AIが、ユーザーをカスタマイズLLMへ移すことを選ぶ。トリガーの仕組みはさまざまだろう。いずれにせよ、汎用AIとカスタマイズLLMが会話と文脈を共有していると仮定する。
カスタマイズLLMは間髪入れず、ユーザーが汎用AIと何を議論してきたかを即座に計算的に見抜く。カスタマイズLLMが、汎用AIが述べた内容に対処する必要があるなら、それでもよい。少なくとも、すでに状況を把握しており、ユーザーに既に伝えられたことを巧みに扱える。
実は、さらに高度なアプローチがある。ユーザーが汎用AIを使っている間、カスタマイズLLMが常に会話を黙って聴いているのだ。利点は、メンタルヘルスの問題が立ち上がりつつあることをカスタマイズLLMが検知できる可能性がある点だ。カスタマイズLLMは汎用AIに警告を送り、汎用AIが窮地に陥る前に、会話をカスタマイズLLMへ引き渡す。
このアプローチの欠点は、カスタマイズLLMが継続的に汎用AIの会話を監視し続けることである。残念ながらこれはサーバーの処理能力を消費し、オーバーヘッドが増大する。もう1つの問題は、カスタマイズLLMが誤って会話の引き継ぎを求める可能性がある点だ。早合点して、メンタルヘルスの問題が起きそうだと誤認してしまうかもしれない。
数多くの紆余曲折
メンタルヘルス領域でカスタマイズLLMを活用するという発想は、汎用AIメーカーにとって巧妙で、潜在的に変革的な選択肢である。だが、そのトレードオフに向き合う意志があるかどうかは不透明だ。
追加の検討事項として、解くべき重要な問いが多数ある。
- 汎用AIのために、どのカスタマイズLLMを選ぶのか
- 両者をどう接続し、シームレスに動かすのか
- どのようなBtoBの契約形態にするのか
- 汎用AIが第三者の仕組みに過度に依存することにならないか
- AIメーカーがメンタルヘルス向けのカスタマイズLLMを自社で作るほうがよいのか、それとも汎用AI自体をカスタマイズLLMと同等水準に引き上げるほうがよいのか
- 第三者のカスタマイズLLMが失敗したり、そのコンポーネントのメーカーが倒産したりしたらどうするのか
- など
政策・規制上の論点も、この戦略の一部である。汎用AIとカスタマイズLLMがメンタルヘルス面で連携していて、問題が起きたと申し立てられた場合、誰が責任を負うのか。汎用AIのメーカーに過失があるかもしれない。汎用AIメーカーはカスタマイズLLMに責任転嫁しようとするかもしれない。カスタマイズLLMの開発者は汎用AIに責任を向けるかもしれない。メンタルヘルス向けAIの領域を支える最新の政策・法的論点については、私の分析としてこちらのリンクとこちらのリンクを参照いただきたい。
結論は次の問いである。
- 社会は、（ただし汎用AIよりも高水準である場合に限り）メンタルヘルス支援を行うカスタマイズLLMの使用をAIメーカーに法的に強制すべきなのか。それともAIメーカーの裁量に委ねるべきなのか。
慎重に、そして意識的に熟考してほしい。
進行中の壮大な実験
社会のメンタルヘルスに関して、いま私たちが壮大な世界規模の実験の渦中にいることは否定しようがない。その実験とは、何らかの形でメンタルヘルスのガイダンスを提供するとされる汎用AIを、国内外で利用可能にしているということだ。無料、または最小限のコストで。いつでもどこでも、24時間365日で利用できる。私たちは皆、この無謀な実験のモルモットである。
AIによるメンタルヘルス支援をアップグレードする1つの道筋は、メンタルヘルスの考慮を汎用AIだけに任せるのではなく、カスタマイズLLMに軸足を置くことを検討する点にある。汎用AIにカスタマイズLLMを取り込めば、世界の人々は、期待されるところとして、より良い水準のメンタルヘルス支援を得られる。
AIはメンタルヘルス助言を一切提供すべきではない、と主張する人もいる。この能力を禁止すべきだ、と。しかし私は、禁止が現実的な解決策になるとは疑っている。現実を直視すべきだ。人々はAIにメンタルヘルス助言を求める。そうであるなら、神聖な任務のために目的設計されたカスタマイズLLMが生成する、実行可能な範囲で最良の助言を提供することを目指そう。
著名な経営者ジャック・ウェルチの洞察に富む言葉を借りれば、「現実を直視せよ。過去の現実でも、望む現実でもなく、いまの現実を」
