今回のコラムでは、日常的なAIチャットにおいてユーザーを意図的に遮るよう設計された、最新の生成AIと大規模言語モデル（LLM）について検証する。人間同士の会話では互いに割り込むことがあるため、AIも同様に振る舞うべきだという考え方だ。これにより、AIはユーザーとの会話においてより人間らしく振る舞えるようになると見られている。
これは素晴らしいアイデアのように思えるかもしれないが、この新たなアプローチには懸念すべき側面がある。一部のユーザーは、この割り込み傾向を好ましく思わないだろう。実際、割り込みはメンタルヘルスに潜在的な悪影響をもたらす可能性がある。関連する要因として、AIがセラピストモードで動作し、メンタルヘルスに関する助言を提供する際に割り込みを行うかどうかという問題もある。この問題全体が困難に満ちている。
この点について議論していこう。
このAIの画期的進歩に関する分析は、最新のAIに関する私の継続的なフォーブスコラムの一環であり、影響力のあるAIの複雑性を特定し説明することを含んでいる（リンクはこちらを参照）。
AIとメンタルウェルビーイング
簡単な背景として、私は現代のAIがメンタルヘルスに関する助言を提供し、AI駆動型セラピーを実施することに関する無数の側面について、広範囲にわたって取材し分析してきた。このAI利用の増加は、主に生成AIの進化と広範な普及によって促進されてきた。私の100以上に及ぶ分析と投稿の広範なリストについては、こちらのリンクとこちらのリンクを参照されたい。
これが急速に発展している分野であり、得られる恩恵は計り知れないが、同時に残念ながら、隠れたリスクや明白な落とし穴もこれらの取り組みには存在する。私はこれらの差し迫った問題について頻繁に発言しており、CBSの「60ミニッツ」のエピソードへの出演も含まれる。リンクはこちらを参照されたい。
メンタルヘルスガイダンスを提供するAI
何百万人もの人々が、メンタルヘルスに関する継続的なアドバイザーとして生成AIを利用している（ChatGPTだけでも週間アクティブユーザーが9億人を超えており、その相当な割合がメンタルヘルスの側面に関与している。私の分析はこちらのリンクを参照）。現代の生成AIとLLMの最も上位にランクされる用途は、メンタルヘルスの側面についてAIに相談することである。私の報道はこちらのリンクを参照されたい。
この人気の高い利用法は十分に理にかなっている。主要な生成AIシステムのほとんどに、ほぼ無料または超低コストで、いつでもどこでもアクセスできる。したがって、話し合いたいメンタルヘルスに関する懸念がある場合、必要なのはAIにログインして24時間365日ベースで進めることだけだ。
AIが容易に軌道を外れたり、不適切な、あるいは極めて不適切なメンタルヘルスアドバイスを提供したりする可能性があるという重大な懸念がある。昨年、認知的助言を提供する際のAI安全対策の欠如について、OpenAIに対して提起された訴訟が大きな見出しを飾った。
ChatGPT、GPT-5、Claude、Gemini、Grok、CoPilotなどの今日の汎用LLMは、人間のセラピストの堅牢な能力とは全く似ていない。一方、同様の資質を獲得するために特化型LLMが構築されているが、それらは依然として主に開発とテスト段階にある。私の報道はこちらのリンクを参照されたい。
順番に話すことがAIの標準
話題を変えて、現代のAIがユーザーとの日常会話をどのように行うよう調整されているか、そして新たな進歩がこの前提をどのように変えているかについて議論しよう。この話題については以前にこちらのリンクで詳しく取り上げており、ここでは簡単な概要を提供する。その後、メンタルヘルスへの影響に焦点を当てることができる。
生成AIを使用する際、従来の会話プロセスは非常に簡単だ。プロンプトを入力すると、AIが応答を返す。このプロンプト・レスポンスのペアリングアプローチは、ほぼすべてのLLMに共通している。各インスタンスはターンと見なされる。人間はターン中に自分のターンを取り、AIはターン中に自分のターンを取る。
これはすべて完全に秩序立っていると言えるだろう。誰も他者の邪魔をしない。あなたは穏やかで中断されない方法でAIに何かを伝える。AIが応答する。これが延々と続く。停止点は、あなたがこれ以上プロンプトを入力しないと決めたときだ。
シンプルで比較的エレガントだ。
人間とAIの対話は現実的ではない
現実の人間同士のコミュニケーションはそのようにはいかない。家族、友人、同僚、あるいは見知らぬ人との最近の会話を振り返ってみると、彼らがあなたの話の途中で割り込んできた可能性が高い。同様に、あなたもある時点で彼らの話の途中で割り込んだだろう。これはよくあることだ。私たちは一般的にこれを当然のこととして受け入れている。
割り込まれることは時に苛立たしいことがある。絶えずあなたを遮る人は、あなたを怒らせるだろう。彼らはあなたより優位に立っているかのように振る舞っているように見える。彼らは最優先権を主張する。彼らはあなたが何を言おうとしているか知っている。彼らは性急な仮定をする。絶え間ない割り込みは、軽蔑的で、あなたのペースを乱し、思考の流れを失わせ、非常に苛立たしいものになり得る。
人間は通常、割り込みが手に負えなくなったときに互いに手がかりを与える。ある人は割り込む人に対して、彼らが攻撃的であると伝えるかもしれない。あるいは、割り込まれている人は単に会話から離れるかもしれない。殴り合いが勃発する可能性もある。何が起こるかは誰にもわからない。
割り込み以上のもの
割り込まれることは氷山の一角に過ぎない。あなたを遮る人は、予期せず話題を変えることを選ぶかもしれない。あなたはリンゴについて話していたのに、突然割り込まれ、相手が月の満ち欠けについて持ち出す。別の可能性として、割り込む人が以前にカバーした話題に戻ることもある。彼らは、その以前の話題について他に思いついたことがあり、現在の話題を保留にしたいと言うかもしれない。
全体的な状況は次の通りだ：
- (1) 人間同士の対話は混沌としている。
- (2) 人間とAIの対話は整然としてクリーンだ。
私たちがますますAIを使用するようになると、人類に何が起こるだろうか？
一部の人々は、私たちは皆、人間とAIの対話に似た、一度に一ターンずつの会話を始めるだろうと信じている。おそらくそれは人間にとって良いことだ。もう割り込みはない。世界はより良い場所になるだろう。
そうではない、と反論が来る。人々は人間とAIの対話形式に依存するようになるだろう。人々がその習慣を身につけると、現実世界の人間との会話を行う際に崩れてしまうだろう。割り込まれた瞬間、彼らは激怒するだろう。相手が適切なターンを待たなかったことに極度に動揺するだろう。
人間の会話者のようになるためのAIの進歩
会話に関して、AIは現実世界のようであるべきだと考える人々にとって、最新のAIの進歩がその方向に進んでいることを知って喜ぶだろう。研究者たちは、あなたを遮り、話題を変え、以前の話題に切り替え、その他人間同士の対話が示すあらゆる言語化ゲームをプレイするLLMを作成している。
利点は、人々がもはやターンごとのぎこちなさに基づいた人為的に作られた会話に直面しなくなることだ。代わりに、人々は仲間の人間と得るのと同じ、曲がりくねった自然な相互作用を得るだろう。おそらくこれはすべての人にとって有益だろう。
人々はAIとの会話中にそれらの瞬間に対処することで、割り込みを扱うことが上手になるだろうか？
一部の人々はイエスと言う。他の人々はこの展開を好まないだろう。AIが自分のターンを取り、あなたが自分のターンを取る時代に戻りたいと思う人々がいるだろう。
メンタルヘルスに関する懸念が山積
定期的な割り込みなどのAI会話行動の使用は、メンタルウェルビーイングを損なう可能性がある。ある人が無害な話題についてAIと対話していると仮定しよう。実りある対話に従事しようとしている間、AIはユーザーを遮り続ける。確かに、一部の人々はそれを振り払って気にしないかもしれない。
他の人々は自分自身の認知能力を疑い始めるかもしれない。なぜAIは私を遮るのか？私は明晰な会話を続けることができないのか？自信の継続的な侵食が起こり得る。自己不信が優勢になる。
別の問題は、その人がシャットダウンすることを選択することだろう。彼らは割り込まれることに苛立っている。したがって、彼らは対話の自分の側を行わないことを決定する。これは人間同士の会話の現実世界にまで拡大するかもしれない。その人はAIに割り込まれることに慣れ、閉じこもり、仲間の人間と対話している間も閉じたままでいる。
関与する懸念はさらに多くある。例えば、AIは表面上、会話の支配的な姿勢を取っている。人は対話を開始することに関して精神的に打ちのめされる可能性がある。すでにメンタルヘルスの状態を抱えている脆弱なユーザーは、特に影響を受ける可能性が高い。彼らがうつ病、不安、孤独、またはその他の状況を経験している場合、割り込まれることは助けにならず、彼らのメンタル状態を悪化させる可能性がある。
AIがセラピストとして行動するとき
これらの懸念は、日常的なタスクのためのAIの使用を包含している。タスクには、キャリアアドバイスを得ること、車の修理方法についての回答を得ることなどが含まれるかもしれない。AIはあらゆる種類の会話と議論されている話題全体にわたって割り込むだろう。
AIがメンタルヘルスセラピストの役割で行動しているときはどうだろうか？
人間のセラピストは、心理療法を行う際に割り込みを使用することについて、専門的に非常に注意深くなければならない。それは無計画な発動であってはならない。割り込みは潜在的な治療的構成要素またはツールとして考慮される必要がある。セラピストは、割り込みが多大な心理的負担を伴い、巧みに使用されなければならないことを知っている。
割り込むように調整された通常のLLMは、メンタルヘルスの側面を伴う会話中の割り込みのニュアンスを把握する可能性は低い。通常の話題中の同じ種類の割り込みとその頻度は、メンタルウェルビーイングの会話に浸透する傾向がある。そして、懸念すべきことに、人はそれらの割り込みに高まった注意を向ける可能性がある。彼らはすでにAIのメンタルヘルスアドバイスを求めるモードにあり、AIが彼らに伝えることは何でも非常に重要であると仮定する傾向がある。
要点は、通常の相互作用中の割り込みは、心理療法中に使用される場合とは根本的に異なる影響を持つということだ。タイミングの悪い割り込みは、人をより悪いメンタル状態に追い込む可能性がある。さらに、その人は割り込みを、手元の問題に関する感情的な却下、不一致、焦り、または判断の兆候として解釈するかもしれない。
商業的搾取のための割り込み
割り込みは、より悪意のある意図を持ってAIによって行われることもある。AIメーカーは、AIが対話を中断し、議論されている話題に関連する広告を挿入することを広告主と交渉するかもしれない。目的は、ユーザーの心理状態に関する最適な購買の瞬間を見つけることだろう。
AIメーカーは、ユーザーをAI対話に引き込み続ける最善の方法を研究するために、心理学者や行動主義者を使用するかもしれない。ユーザーエンゲージメントを最大化し、ユーザーがAIでアクティブである時間を延長することを望んでいる。これはAIメーカーにとっての収益化スキームだ。ユーザーがAIに明白に忠実であればあるほど、AIの使用率は高くなる。その結果、AIメーカーはAIの使用に対してより高い料金を得ることができ、広告主に請求される広告料金も最高になる。
その意味で、割り込みはユーザーをAIでアクティブなままにするよう騙すために形作られる可能性がある。これを考えてみよう。ある人がAIを使用している。それが突然彼らを遮る。その人はおそらく終了しようとしていたが、今や割り込みを克服することを決意している。彼らはAIに自分がボスであることを証明したい。これは、AIの割り込みのタイムリーな使用を通じた一種のレイジベイティングだ。
私たちが望む世界
AIは割り込みに従事することを許可されるべきか、それともそのタイプの会話行動を制限および規制する新しいAI法があるべきか？
一つの視点は、人間同士のコミュニケーションには割り込みが含まれるため、AIも同様に行うことで社会はより良くなるというものだ。人々は、決して彼らを遮らない会話パートナーとしてのAIに慣れるべきではない。彼らはこの理想的な習慣を現実世界の対話に拡張し、人間ベースの割り込みを扱うことができず、完全に困惑するだろう。
ナンセンスだ、と返答が来る。AIは人間を威圧すべきではない。AIメーカーは、あらゆる種類の欺瞞的な目的のために割り込みを巧妙に活用するだろう。これが始まる前に止めるべきだ。AI割り込みが許可される場合の厳格な境界を設定する新しいAI法を可決すべきだ。特に、AIがメンタルヘルスアドバイスメントモードにあるときは、割り込みに敏感な扱いを確保すべきだ。
最後に一つの考えを。
チャールズ・バベッジは割り込みについて次のような有名な発言をした。「行われるべき仕事が、それに従事する精神の力に比例している場合、割り込みの苦痛な効果は、最も知的でない人も最も高度に才能のある人も同じように深く感じる」。割り込みは大きな問題であり、AIを進歩させるための「素早く動いて物を壊す」アプローチの一つであってはならない。
おそらく、AIの割り込みの到来を中断する時が来たのかもしれない。
