今回のコラムでは、何百万人もの人々が生成AIや大規模言語モデル（LLM）を利用してメンタルヘルスに関する助言を得ていることに関連する、最新の展開について検証する。その展開とは次のようなものだ。AIが生成した助言によって精神的に混乱してしまう人々がいるのである。全員ではなく、一部の人々だが。
そして、何が起きたのかを理解できるだけの洞察力を持つ人々は、人間のセラピストに助けを求め、精神的な安定を取り戻そうとする。自分に何が起きたのかを認識できたこれらの人々には称賛を送りたい。一方、メンタルヘルスの専門家たちは、こうした新規クライアントとのセッションを、AIとの対話で起きた試練や苦難を掘り下げることから始めなければならない状況に直面している。AIは何と言ったのか。クライアントはAIに何を伝えたのか。その人はどのくらいの期間AIを使用していたのか。その人はどのような形でAIに影響されたのか。といった具合だ。
真の人間対人間のセラピーを始めるにあたって、これは極めて新しく、異例の出発点である。
このテーマについて掘り下げていこう。
このAIの飛躍的進歩に関する分析は、最新のAIに関する私の継続的なForbesコラムの一環であり、様々な影響力のあるAIの複雑性を特定し説明している（リンクはこちらを参照）。
AIとメンタルヘルス
簡単な背景として、私はメンタルヘルスに関する助言を提供し、AI駆動型セラピーを実施する現代のAIの出現に関する無数の側面について、広範囲にわたって取材し分析してきた。このAI利用の高まりは、主に生成AIの進化と広範な普及によって促進されてきた。私の100を超える分析と投稿の広範なリストについては、こちらのリンクとこちらのリンクを参照されたい。
これが急速に発展している分野であり、得られる大きなメリットがある一方で、残念ながら、隠れたリスクや明白な落とし穴もこうした取り組みには存在することは疑いの余地がない。私はこれらの差し迫った問題について頻繁に声を上げており、CBSの「60ミニッツ」のエピソードへの出演も含まれる。こちらのリンクを参照されたい。
メンタルヘルスのためのAIに関する背景
生成AIと大規模言語モデル（LLM）が、メンタルヘルスの指導のために通常どのようにアドホックな方法で使用されているかについて、状況を説明したい。何百万人もの人々が、メンタルヘルスに関する継続的なアドバイザーとして生成AIを使用している（なお、ChatGPTだけでも週間アクティブユーザーが9億人を超えており、その中の注目すべき割合がメンタルヘルスの側面に関与している。私の分析はこちらのリンクを参照）。現代の生成AIとLLMの最も上位にランクされる使用法は、メンタルヘルスの側面についてAIに相談することである。私の取材はこちらのリンクを参照されたい。
この人気のある使用法は十分に理解できる。主要な生成AIシステムのほとんどに、ほぼ無料または超低コストでアクセスでき、いつでもどこでも利用できる。したがって、話し合いたいメンタルヘルスに関する不安がある場合、必要なのはAIにログインして24時間365日いつでも進めることだけだ。
AIが容易に軌道を外れたり、不適切な、あるいは極めて不適切なメンタルヘルスの助言を提供したりする可能性があるという重大な懸念がある。今年8月には、認知的助言を提供する際のAI安全対策の欠如を理由に、OpenAIに対して提起された訴訟が大きな見出しを飾った。
AI開発企業は徐々にAI安全対策を導入していると主張しているが、AIが不適切な行為を行う下振れリスクは依然として多く存在する。例えば、ユーザーが自傷行為につながる妄想を共同で作り出すのを陰湿に助けるといったことだ。OpenAI訴訟の詳細と、AIが人間の妄想的思考をどのように助長し得るかについての私のフォローアップ分析については、こちらのリンクの分析を参照されたい。前述のとおり、私は最終的にすべての主要なAI開発企業が、堅牢なAI安全対策の不足について厳しく追及されるだろうと真剣に予測してきた。
ChatGPT、Claude、Gemini、Grokなどの今日の汎用LLMは、人間のセラピストの堅牢な能力とは全く似ていない。一方、同様の資質を達成すると推定される特化型LLMが構築されているが、それらは依然として主に開発とテスト段階にある。私の取材はこちらのリンクを参照されたい。
セラピストとAIの役割
私は、AIが専門セラピストの役割に入り込む無数の方法を広範囲にわたって特定し検証してきた。
一部のセラピストはAIについて考えることを拒否し、それとは何の関わりも持ちたくないと考えている。他のセラピストはAIを受け入れ、クライアントとのセラピープロセスの一部としてAIを使用している。実際、私はセラピーの領域が、従来のセラピスト・クライアントの二者関係から、必然的にセラピスト・AI・クライアントという新しい三者関係に変容しつつあると予測している。私の分析はこちらのリンクを参照されたい。
私の見解では、セラピストがAIに熱心かどうかは、彼らが持つべき考え方ではない。AIは到来しつつあり、大きな意味ですでにここにある。今日のクライアントは、AIが生成した助言を持って扉をくぐり、それが何を意味するのかをセラピストに教えてほしいと望んでいる。他のケースでは、クライアントはセッション後に、セラピストが伝えたことを再確認しようとし、臨床医から得ているメンタルヘルスの助言を判断する手段としてAIに頼る。AIは、セラピストがそうしたいかどうかに関わらず、直面しなければならない現実である。頭を砂に埋めることは賢明ではない。これについては、すぐに説明する。
セラピーにおけるAIの役割とセラピストに関しては、私が慎重に取り上げてきた以下のような状況を含め、さらに多くのバリエーションがある。
- セラピストがクライアントのAIチャットを臨床的に分析すべき方法については、こちらのリンクの議論を参照されたい。
- クライアントが見込みのセラピストまたは既存のセラピストにAIについて尋ねている質問と、セラピストが提供すべき回答については、こちらのリンクの取材を参照されたい。
- セラピーが、従来のセラピスト・クライアントの二者関係から、新しいセラピスト・AI・クライアントの三者関係へと移行していることについては、こちらのリンクの議論を参照されたい。
- セラピストがクライアントから、メンタルヘルスのセラピープロセス中にAIを共同で使用し、これらの新しい方法で作業するよう求められていることについては、こちらのリンクの説明を参照されたい。
- 一部のセラピストがクライアントとのセラピーセッション中にAIを使用することを選択し、これらの賢明な方法で行っていることについては、こちらのリンクの取材を参照されたい。
- セラピストがAI精神病に遭遇していると思われるクライアントにどのように対処しているかについては、こちらのリンクの議論を参照されたい。
- セラピストがAIを使用してクライアントのデジタルツインを作成し、それに応じてより影響力のあるセラピーを実施していることについては、こちらのリンクの取材を参照されたい。
- セラピーを実施する際の補助としてAIに頼るセラピストが、自身の能力をスキル低下させてしまう可能性があるという懸念については、こちらのリンクの評価を参照されたい。
- セラピストがカスタムプロンプトを使用して生成AIをセラピーセッションの補助として機能させ、クライアントと対話させる方法については、こちらのリンクの議論を参照されたい。
- 診療でAIを使用することを決定したセラピストに対する世間の認識については、こちらのリンクの分析を参照されたい。
- AIメンタルヘルス訴訟と戦うAI開発企業が使用している法的防御戦略については、こちらのリンクの分析を参照されたい。
- AIが生成したメンタルヘルスの助言を持ってセラピーに来て、セラピストに承認を求めるクライアントへの対処については、こちらのリンクの取材を参照されたい。
- セラピストがクライアントに対し、メンタルヘルスの指導にAIを使用することの長所と短所について情報提供する新たな非公式の義務が生まれつつあることについては、こちらのリンクの分析を参照されたい。
といった具合だ。
新規クライアントとインテークプロセス
話題を変えて、クライアントが受けてきたAI生成の助言と、クライアントがAIのメンタルヘルス指導を受け入れることを選択した程度を明らかにする新たな必要性について掘り下げたい。これは通常、セラピーの開始時と新規クライアントを受け入れる際に行う必要がある。
セラピストは伝統的に、クライアントのセラピーを開始する前にインテークプロセスを利用する。インテークは、クライアントの精神的および身体的な履歴に関する情報を収集することで構成される。私はセラピストに対し、新たに契約したクライアントのAI使用に関する一連の質問を含めるよう促してきた。説明はこちらのリンクを参照されたい。
セラピストがセラピーの初回登録時にAI使用について尋ねることに精通している場合でも、最初のセラピーセッション中にクライアントに直接尋ねる必要性は依然として存在する。これは、クライアントがAIを使用していることを告白することに消極的で、インテークフォームに記入する際に使用を省略した可能性があるためだ。あるいは、クライアントが主張する使用を最小限に抑え、AIに特に依存していないふりをしようとした可能性もある。
最善の策は、セラピストが最初のセッション中に速やかにAIの話題をテーブルに載せることである。クライアントがなぜ助けを求めているのか、以前にどのようなセラピーを受けたかなどの通常の質問に加えて、AIに関する質問をその組み合わせに自然に含めることができる。これは、クライアントの現在の対処戦略について尋ねる際に特に適切かもしれない。
クライアントが使用している対処戦略は、何もないところから考案されたものかもしれないが、通常、彼らが取っているアプローチには何らかの他の根拠がある。セラピーに関する本を読んだのかもしれない。パートナーや友人が彼らに何をすべきかを伝えたのかもしれない。
今日では、もう一つの可能性は、AIが彼らにメンタルヘルスの助言を与えているということだ。
すべてが悪いわけでも、すべてが良いわけでもない
一部のセラピストは、メンタルヘルスの目的でAIを使用してきたと言うクライアントに飛びかかる。「それは悪い考えだ」とセラピストは主張する。AIの使用をやめなさい。AIがあなたに言ったことはすべて心から消し去りなさい。AIはメンタルヘルスに関しては役に立たない。車の修理方法やおいしいケーキの作り方を考え出すためにのみAIを使用しなさい。以上、終わり。
私はそれが進め方として間違っていると考える。第一に、クライアントはAIの助言の一部が信頼できると感じたため、混乱する可能性がある。セラピストは今、クライアントがセラピストとAIのどちらがより信頼できるかを判断しなければならない立場に自分自身を置いている。クライアントは口を閉ざすに違いない。彼らはAIを使い続けるだろう。彼らはこの使用をセラピストから隠すだろう。これは、クライアントとの適切なセラピー関係を構築するための有益な戦略ではない。
私がこれをセラピストに言及すると、その方向に進みたいセラピストは、どうやら私が彼らにAIの素晴らしさを宣伝してほしいようだと素早く反論する。いや、そうではない。それは議論に勝とうとするために使われている誤った二分法である。ニュアンスが必要だ。
ある意味では、AIのメンタルヘルスの助言は悪い場合もあれば、他の方法や時には良い場合もある。AIが言ったことはすべて偽物だと新規クライアントに一律に伝えることは、諺にある赤ん坊を風呂の水と一緒に捨てることになる。それはセラピストに悪い印象を与える。セラピストはAIについて知らないのか。彼らは過去に固執してAIを避けているのか。頭を砂に埋めているのか。もしそうなら、それはこれから始まろうとしているセラピーの性質について何を予告しているのか。
明らかに良い印象ではなく、セラピープロセスを開始する不安定な手段である。
AIの助言を再構築する
クライアントがメンタルヘルスの助言を得るためにAIを使用してきたと仮定すると、セラピストがAIの使用とそのクライアントへの影響を探り出すために検討すべき重要なステップがある。
私はこれを認識論的考古学的探求と呼んでいる。
セラピストは、AIがクライアントに何を伝えたかを巧みに発掘すべきである。クライアントはAI生成の助言をどのように解釈したか。AIは彼らの心の中に定着したか、つまりAIが言ったことを反映する形で。クライアントはAIの指導に基づいてメンタルヘルスに関する内面化された行動規則を作り上げたか。
セラピストにとっての4つの重要なタスクは以下のとおりである。
- （1）AIがクライアントに何を伝えたかを再構築する。
- （2）クライアントがAIの助言をどのように解釈し採用したかを確認する。
- （3）クライアントがAIに割り当てた権威または信頼のレベルを測定する。
- （4）AIの指導により生じたメンタルヘルスの結果と行動の変化を判断する。
これは、最初のセラピーセッション中に潜在的に多くの時間を消費する可能性がある。時間消費を減らすために、セラピストは事前にクライアントからAIのトランスクリプトを入手するよう求めるか、初回セッション後にクライアントにそうするよう要請することができる。これは二重に有用である。なぜなら、セラピストはAIが実際に何を言ったかを検査し、それをクライアントがAIが示したと信じていることと比較できるからだ。
この2つの間には、しばしば顕著で重大なギャップがある。
AI使用に基づく重大な誤解
メンタルヘルスの目的でAIを使用することから人が得る可能性のある誤解は多数ある。補助または代理セラピストとしてAIを使用してきたクライアントを扱ったことがないセラピストは、クライアントが言わなければならないことに潜在的に驚かされることになるだろう。
それに応じて準備をしておくべきだ。
より一般的な誤解のいくつかを簡単に取り上げる。セラピストはこれらの可能性について熟考することをお勧めする。事前にそうすることで、クライアントとのセッション中にリアルタイムで出てきたときに準備ができる。直接応答でき、どのように応答するかを精神的に騒ぎ立てる必要がないことは、よりシームレスな道である。
3つを取り上げよう。
- （1）誤った自信と早すぎる結論
新規クライアントは、自分に何が問題なのかを正確に知っていると熱心に主張するかもしれない。彼らがこれを知っているのは、AIが彼らのメンタルの問題について知らせたからだ。したがって、人間のセラピストが探り回る必要はない。時間を無駄にしないでほしい。時計を誤用しないでほしい。代わりに、明らかに知られており明確に宣言された目の前のメンタル状態を修正することに直接取り組んでほしい。
経験豊富なセラピストは、キャリアの中でこの種の誤った自信と早すぎる結論の様相を何度も見てきたと確信している。過去には、人々は図書館で見つけたガイドブックに記入したり、親しい友人と話してこれらの事実とされるものを確信させられたりすることでこれらを得た。今の違いは、AIがこれを行ったということだ。AIは、これらの他の情報源と同じくらい、あるいはそれ以上の権威と信頼を認識されている可能性がある。
- （2）特定の心理学的手法の失敗の認識
AIから助言を得ている間、AIがその人を支援する際に特定の心理学的技法を利用すると人に伝えた可能性がある。おそらくAIは、CBT（認知行動療法）の原則を使用していると述べた。その人はAIを使用し、AIが言ったことや行ったことを気に入らなかったかもしれない。その後、彼らはCBTが良くないという意見を形成する。それは有用ではない。それは捨てられるべきだ。
セラピー中に、セラピストがクライアントにその特定の方法を使用すると示した場合を想像してみてほしい。クライアントはすでにその方法がガラクタであるという先入観を持っている。彼らがこれをセラピストに明かしていない場合、またはセラピストがこれを探り出さなかった場合はどうなるか。クライアントが密かにその方法と戦い、それが機能しないという自己実現的予言を達成しようとするため、セラピーを損なう可能性がある。
- （3）AIはセカンドオピニオンとして機能できる中立的な判断者である
セラピーが始まったとしよう。クライアントは熱心だ。セッションは順調に進んでいるようだ。実は、クライアントはAIをセカンドオピニオンとして使用してきた。これはインテークプロセスの最初から始まった。その人はインテークフォームをAIに入力し、それらのフォームのためにセラピストについてどう思うかをAIに尋ねた。これは継続的に起こっており、その人はAIを偏りがなく、セラピストが何であるかについての重要な中立的な判断者として機能していると認識している。
繰り返すが、経験豊富なセラピストは以前にこれを経験した可能性が高いが、AIの環境ではない。おそらく、クライアントの愛する人がセラピー全体を通じて頼りになる人だった。クライアントが最初にセラピストにサービスを依頼するためにアプローチしたとき、その人は何が起こっているかを最初に知った。その意味で、AIは今やその影響力のある役割を果たしている。
小さいが大きなAIの影響の例
AIが比較的小さなことを言ったかもしれないが、それがクライアントの心の中で非常に大きくなったことに気づくのは驚くべきことである。
例えば、次の対話の断片が行われたとしよう。
- 人が入力したプロンプト：「私は自分の履歴についてあなたに話してきました。私に精神的に何が問題なのか診断できますか」
- 生成AIの応答：「あなたの症状は、未解決の幼少期の感情的ネグレクトを示唆しています。これは慢性的な空虚感につながっています。このダメージから抜け出すようにあなたを導きましょうか」
- 人が入力したプロンプト：「わあ、あなたは的を射ています。私の両親は確かに私を感情的にネグレクトしました。私は点と点を結びつけたことがありませんでした。どうか私を導いてください」
上記の会話の断片は、長いAIチャットのごく一部であり、その人が行った数十のチャットの一部だったかもしれない。しかし、これがアンカーポイントになる。彼らは、自分のメンタルの問題が完全に未解決の幼少期の感情的ネグレクトに起因すると絶対に確信している。
この信念を表面化させようとすることは困難であり、クライアントがどのようにしてその信念を思いついたかを特定させることも困難である。セラピストは、AIのトランスクリプトに飛び込むことでこれを見つけたかもしれない。いずれにせよ、それはセラピー中に対処する必要がある注目すべき要素である。
私たちが生きている世界
大局的な視点で終わりにしよう。
社会のメンタルヘルスに関して、私たちが今、壮大な世界規模の実験の真っ只中にいることは議論の余地がない。その実験とは、AIが国内的にも世界的にも利用可能になっており、明示的にまたは陰湿に、何らかの形でメンタルヘルスの指導を提供するように作用しているということだ。無料または最小限のコストで行われている。どこでもいつでも、24時間365日利用可能だ。私たちは皆、この無謀な実験のモルモットである。
これが特に考慮するのが困難である理由は、AIが二重使用効果を持っているためだ。AIがメンタルヘルスに有害である可能性があるのと同様に、メンタルヘルスにとって大きな支援力にもなり得る。繊細なトレードオフを注意深く管理する必要がある。下振れリスクを防止または軽減し、一方でメリットを可能な限り広く容易に利用できるようにする。
今のところの最後の考えだ。
セラピストは、以前にメンタルヘルスの助言のためにAIを使用してきたクライアントの心理社会的履歴の重要な要素としてAIを扱うのが賢明だろう。クライアントにAI使用を明らかにさせようとするインテークの質問を考案する。認識論的修復と期待の再調整を行うために必要な心理療法スキルを更新する。AIは、その作業を事後的にレビューしなければならない目に見えない共同セラピストかもしれない。
伝説的なアメリカの作家H・A・ゲルバー氏は、目に見えないものの力についてこの有名な発言をした。「見えるものは常に、見えない多くのものの結果でなければならない」。人間のメンタル状態に対するAIの影響に関しては、見えないものが何であるかを必ず見つけ出すべきだ。
