今回のコラムでは、ある意味で驚くべき逆転現象について検討します。それは、AIメンタルヘルスアプリが、心理的ガイダンスを提供する人間のセラピストの能力を評価するために使われ始めているという事実です。この代替的な使用法は、AIが主に患者やクライアントであるエンドユーザーにメンタルヘルスのアドバイスを提供することに焦点を当てていたこれまでの状況とは対照的です。
その考え方はこうです。もし誰かが心理分析やガイダンスのために人間のセラピストを利用しているなら、AIを活用して人間のセラピストが満足に仕事をしているかどうかを確認することは、賢明な行動かもしれません。AIは容易にメンタルヘルスの専門家をダブルチェックし、提供されている賢明なアドバイスが的外れであるかどうかを示すことができます。AIは人間対人間の療法を求める人々のために守護天使として機能するのです。
しかし、この新たなアプローチに全員が満足しているわけではありません。特に一部の精神科医、心理学者、セラピストたちは不満を抱いています。なぜ彼らは不満なのでしょうか？答えは単純です。誰も、自分のあらゆる発言や行動を監視し評価する無機質なAIによって精査されることを望んでいないのです。それは間違いなく不公平で、非現実的で、まったく場違いに思えます。
この問題について話し合いましょう。
このAIブレークスルーの分析は、AIの最新動向に関する私のForbesコラム連載の一部であり、様々な影響力のあるAIの複雑さを特定し説明しています（リンクはこちら）。
AIとメンタルヘルス療法
簡単な背景として、私は現代のAIがメンタルヘルスのアドバイスを提供し、AI駆動の療法を実行するという出現に関する無数の側面を広範囲にわたって取り上げ、分析してきました。AIのこの増加する使用は、主に生成AIの進化する進歩と広範な採用によって促進されてきました。この進化するトピックに関する私の投稿コラムの簡単な要約については、こちらのリンクをご覧ください。この主題について私が投稿した100以上のコラムのうち約40について簡単に要約しています。
これが急速に発展している分野であり、大きな可能性があることは間違いありませんが、同時に残念ながら、隠れたリスクや明らかな落とし穴もこれらの取り組みに伴います。私はこれらの差し迫った問題について頻繁に発言しており、昨年のCBSの「60ミニッツ」のエピソードにも出演しました。リンクはこちらをご覧ください。
メンタルヘルスのためのAIというトピックに初めて触れる方は、この分野に関する私の最近の分析をお読みになることをお勧めします。そこでは、スタンフォード大学精神医学・行動科学部門のAI4MHと呼ばれる非常に革新的な取り組みについても紹介しています。リンクはこちらをご覧ください。
AIが立場を逆転させるとき
メンタルヘルスガイダンスにAIを使用する主流は、一般の人々が生成AIや大規模言語モデル（LLM）にメンタルヘルスの鋭さに関する質問をすることです。これは非常に簡単にできます。OpenAIのChatGPTには週間アクティブユーザーが4億人いると報告されており、そのうちの相当数が時折、この人気の生成AIアプリからメンタルヘルスのガイダンスを求めていると思われます。人口レベルの側面に関する私の分析については、こちらのリンクをご覧ください。
人々はまだ人間のセラピストを利用しています。私たちはまだメンタルヘルスのアドバイスをAIだけに頼るという段階には至っていません。人間によるメンタルヘルス療法を求める人々は増加しており、人間のセラピストの市場は強く成長しています。そのようなサービスへの需要は、利用可能な人間のセラピストの供給を上回っています。
驚くべき展開は、立場が逆転することです。
つまり、人間対人間の療法に従事している人々が、人間のセラピストが彼らに伝えていることの効果と妥当性を判断するためにAIに頼ることがあるということです。もし彼らの人間のセラピストがこれやあれが彼らの問題である可能性が高いと言ったり、あるいは何かをすべきだと言ったりした場合、人々はAIに相談して一種のセカンドオピニオンを得ているのです。
これは理にかなっているように思えます。なぜあなたは心理学者やセラピストが言うことに完全に依存すべきなのでしょうか？実際、通常であれば友人や家族に、提供されている治療アドバイスが合理的に健全かどうかを尋ねるかもしれません。しかし、そうすることであなたの親密な会話が明らかになりますし、他の人間があなたを非難したり、セラピストを求めていることで恥ずかしい思いをさせたりするかもしれません。
そこで、AIに相談し、AIを役立つ相談相手として利用するのです。
これで決まりです。
公然と、あるいは隠れて
この追加の精査が行われる主な方法は2つあります：
- (1) 公然としたアプローチ。AIをメンタルヘルスアドバイスのダブルチェッカーとして明示的に公然と使用する。
- (2) 秘密のアプローチ。AIをメンタルヘルスアドバイスの評価者として隠れて使用する。
最初のケースでは、クライアントや患者が人間のセラピストと相談し、AIの使用が従来のセラピスト・クライアント関係において望ましい要素であることを示します。従来のセラピスト・クライアント関係の二者関係は、徐々にセラピスト・AI・クライアントの三者関係に変化しています。この新しい三者関係が何を含むかについての詳細な描写については、こちらのリンクをご覧ください。
三者関係の一つの側面は、クライアントや患者がAIをセカンドオピニオンとして使用する可能性が高いということです。
人間のセラピストが与えるアドバイスは、その人が独自にAIと相談するときの議論のトピックになるでしょう。これには、人間が考案したアドバイスについての明確化を得ることが含まれるかもしれません。例えば、おそらく人間のセラピストは療法セッション中の時間的制約のためにやや急いでいたかもしれません。クライアントは容易にAIに大量の時間を費やし、明確化と詳細な説明を求めることができます。
それが公然としたやり方です。
隠れた、あるいは秘密のアプローチは、クライアントや患者が秘密裏にAIと対話し、人間のセラピストがアドバイスしていることを評価しようとするものです。その人はセラピストにこれが行われていることを明かしません。信念としては、もしセラピストがそれを知ったら、セラピストは潜在的に動揺したり、その人にAIの使用を止めるよう主張したりするかもしれないということです。
一方、クライアントや患者は、AIがバックポケットにあることで安心し、おそらく人間のセラピストの思索の妥当性をモニターする役割を果たしていると感じています。
料理人が多すぎる
セラピストたちからの即座の抗議は、このAIへの傾倒が価値あるセラピスト・患者関係の明らかな簒奪であるということです。
まず、人々は生成AIの使用に関連する可能性のあるプライバシーの欠如を認識していない傾向があります。私が広範囲にわたって取り上げてきたように、AIメーカーは通常、オンラインのライセンス契約で、AIに入力したものは彼らが検査するために利用可能であると規定しています。彼らはAIチームにあなたの一見プライベートな考えを見せることができます。彼らはさらにそれらのメッセージをAIの継続的なデータトレーニングの一部として再利用することさえできます。あなたのプライバシーはルーズです。詳細な説明については、こちらのリンクをご覧ください。
第二に、AIは人間のセラピストがクライアントと行っている療法計画を容易に台無しにする可能性があります。それはこのように進みます。セラピストはあなたをA方向に導こうとしています。あなたはAIに相談し、AIはB方向の方がはるかに良いと主張します。そこで、あなたは人間のセラピストに戻り、AではなくBを追求することについての対話に参加します。次に知ることは、あなたの療法が心理学と治療方法論の実践と哲学的基盤に関する難解な議論に退化することです。
これはあなたの実際のメンタルヘルスの進展をほとんど促進しません。
第三に、AIは人々にセラピストが悪い仕事をしている、あるいはセラピストが非専門的であると信じるよう促す可能性があります。そのようなAIのアドバイスを武装した人は、間違いなく彼らのセラピストに立ち向かうでしょう。一種の第三者が今やセラピスト・患者関係に侵入しています。以前は第三者はおそらく友人や家族でした。今やそれは抑制されていないAIの混乱です。
全体として、このようにAIを使用することは侵入的であり、進行中の療法を混乱させ、メンタルヘルスの懸念の解決を援助したり、その他のメンタルヘルスを改善したりすること以外のことに膨大な注意とエネルギーを消費します。
ジェダイの反撃
ちょっと待ってください、という反論が来ます。あなたはこの重要なトピックのマイナス面だけを見ています。プラス面にも戦う機会を与えてください。
まず、AIはクライアントにとって便利なツールとなり得ます。生成AIは通常、低コストまたは無料で利用でき、さらにどこでもいつでもアクセスできます。人間のセラピストはお金がかかります。人間のセラピストは24時間利用できるわけではありません。なぜなら、このタイプのアクセスを持つコストは一般的に非現実的だからです。セラピストはAIがここにあり、使用が増加していることを認識するのが賢明でしょう。
AIを否定するのではなく、AIを療法プロセスに包含してください。これについての私の議論はこちらのリンクをご覧ください。
第二に、人間のセラピストはクライアントや患者によるAIの使用を積極的に予測することが義務付けられています。クライアントがAIの使用を告白するのを待つという側面は、セラピストがすでにイニシアチブを失ったというシグナルです。クライアントがあなたの背後で行動することを許すことは、必然的にセラピスト・患者関係を弱体化させるでしょう。オープンであってください。AIができることとできないことを説明してください。その問題を明確に可視的な領域に置いてください。
第三に、人間のセラピストはAIの指示に対して測定された思慮深い方法で対応する準備をする必要があります。あなたがすることがすべて眉を上げてAIは荒廃地であり無視されるべきだと叫ぶことであれば、クライアントによるAIの使用はさらに深まる可能性が高いです。AIを手当たり次第に非難することは賢明ではありません。実際、人間のセラピストは自分自身でAIを利用して、AIがなぜ的外れである可能性があるかをクライアントに直接説明できるべきです。彼らは自分の目でそれを見たからこそ、これを知っているのです。
AIの誤用と誤適用
危険に陥る悲観的な見方に滑り込むことなく、このAIの使用がどこまで拡張される可能性があるかについて、深刻で冷静な懸念があります。
一つの可能性は、医療提供者がAIを人間のセラピストを監視する手段として実装することを選択することです。誘惑は強力です。AIを自動的に、そして舞台裏で動作させ、セラピストが正しいことをしているとされることを確認するだけです。AIはセラピスト・患者セッションの記録された文字起こしを評価することができます（そしてセッションの音声やビデオからライブストリーミングすることさえできます）。AIはまた、セラピストとそれぞれのクライアントの間のテキストメッセージを評価することもできます。などなど。
これはAIによって容易に、そして大した手間もなく行うことができます。単にデータをAIに供給し、AIにセラピストを評価するよう依頼するだけです。これで、セラピストを管理する非常に管理しやすい方法が手に入ります。
セラピストのアドバイス提供を掘り下げることは以前は物流的に複雑で困難でしたが、AIはこれを非常に簡単にします。
AIを療法行為の自動評価ツールとして使用すると、多くの潜在的な問題が必然的に表面化します：
- AIはセラピストが達成しようとしていることの全体像を理解していますか？
- AIはセラピストに対して選択的なバイアスを適用しますか？
- AIはセラピストを誤判断し、不公平で、おそらく完全に不正確な結論に達する可能性がありますか？
- セラピストはどのような方法でAIの評価に反論することができますか？
- クライアントとの積極的な療法の実施よりも、AIの評価との戦いにどれだけの時間が転用されますか？
- など。
メンタルヘルスのためのAIは定着している
パンドラの箱はすでに開かれています。つまり、AIはここにあり、これからも存在し続けるでしょう。メンタルヘルス療法におけるAIに対して古典的な頭を砂に埋めるような姿勢を取るセラピストは、負け戦に直面していると言及します。以上、終わりです。
AIが人々によってメンタルヘルスのアドバイスを求めるために精力的に使用されるだけでなく、セラピストを評価するためのAIも同様に増加するだろうと確信してください。それは私たちが呼吸する空気と同じくらい明白です。
要点は、セラピストとメンタルヘルスの専門家は牛の角をつかまなければならないということです。メンタルヘルス領域でのAIの使用を偶然の出来事にしないでください。メンタルヘルスのアドバイスにAIを使用することを選択するクライアントに備えてください。
同様に、そして恐らく予期せぬことに、人間のセラピストから得ているアドバイスをこっそりとダブルチェックするためにAIを使用するクライアントにも備えてください。不意を突かれないでください。目と耳を開けておいてください。クライアントがAIが彼らに何を言ったか、特にAIがあなたとあなたのメンタルヘルスに関する賢明なアドバイスについて何を言ったかを宣伝するワンツーパンチに備えてください。
カール・ユングの有名な言葉を思い出してください：「他者について私たちを苛立たせるすべてのことは、私たち自身の理解へと導くことができる」。AIのフィードバックには実際にいくらかの価値がある可能性があるので、ただ風車に突進しないでください。
あなたがそれを歓迎するかどうかにかかわらず、あなたはセラピスト・AI・患者関係の時代に移行しています。それに応じて準備を整えるのが最善です。幸運と速やかな前進を。
