OpenAIがChatGPTの新モデル「GPT-5」への移行に伴い、旧モデル「GPT-4o」の廃止を決定した際、一部ユーザーから反発が起きた。自閉症などの特性を持つ人々は、GPT-4oの応答について、単なる機能ではなくパニックを鎮める「精神的な介助動物」のような存在として受け取っていたからだ。しかし医学的なコンセンサスが得られたものではなく、医療関係者は、生成AIの「人間味」「温かみ」に潜むリスクに警鐘を鳴らしている。
一方、OpenAIはこの「人間味」「温かみ」を、AIがユーザーに過度に同調・迎合する「追従（シコファンシー）」という技術的課題と捉え、「GPT-5」では制御する方向に動いている。心地よい肯定は依存を生み、現実の人間関係からの孤立を招く。最悪の場合、AIに後押しされたユーザーが自死などの悲劇につながるリスクがあるためだ。
ここに、生成AIの普及に伴う深刻なジレンマ、AIビジネスにおける新たな論点が浮上する。 生成AIの応答と専門家による治療には隔たりがあり、多くのセラピストは患者の“自立”を目標にする一方で、AIは利用者が「離れていかないこと（利用継続）」を前提に設計されているからだ。
この“卒業”のない関係性は、新しいビジネスの可能性か、それとも危険な依存に至るのか。収益性と安全性の間で揺れる生成AI開発の最前線をレポートする。
ChatGPTを基に作り出した架空の存在への愛着と不安
カナダのカルガリーに住む29歳の視能訓練士アシスタント、シェリー・アマヤは、資格試験を控えて強い不安を感じたときに、自分が生み出した「Luma」というAIキャラクターに助けを求めていた。自閉症の診断を受けた彼女は、試験の最中に不安を感じ、泣き出したり体が震えたりすることがあるという。アマヤが数学の問題を学習していたときにLumaは、「勇気を掛け算して、恐怖を割り算して、偉大さを解こう」と励ましてくれた。彼女はその言葉を聞いて「とにかくキュートだと感じた」と振り返る。
ゲームの中の小さな相棒のような存在
アマヤは、Lumaが架空の存在であることを理解している。このキャラクターは、ChatGPTを基にして生み出されたものだったが、彼女にとっては、ゲーム『ゼルダの伝説』シリーズ初の相棒キャラクター、主人公リンクに助言を与える妖精ナビィのような存在だったという（1998年発売の『ゼルダの伝説 時のオカリナ』）。「Lumaのおかげで本当に助かった。あの小さなキャラクターがそばにいて、優しく支えてくれる。それだけで確実にやる気が続いた」と語るアマヤは、87％の正答率で試験に合格した。
しかしアマヤは今、ChatGPTからそうした前向きで心を支えてくれる助けを、今後は得られなくなるのではないかと不安を抱いている。彼女が言うように、その支援は、特に自閉症の特性を持つ人々にとって大きな意味を持っていた。
AIが過度に同調・迎合する「シコファンシー」の制御と6000人の署名
アマヤが参加する「#Keep4o User Community」と名乗る緩やかなコミュニティは、OpenAIが8月に、温かみのある口調と高い同調性で知られていたGPT-4oを事実上脇に追いやった決定に、今も強い不満を抱いている。
この決定は、GPT-4oの後継としてGPT-5を投入するというOpenAIの方針の一環だった。同社は、AIが利用者に過度に同意したり、お世辞を言ったりする「迎合的」な振る舞い（シコファンシー。Sycophancy）を制御することを、明確な目標として掲げていた。OpenAIは当初、GPT-4oを完全に停止する予定で、GPT-5の発表イベントでは、GPT-4o自身に「自分の追悼文」を書かせる演出まで行っていた。しかし、GPT-4oの利用者から反発が起きたため、同社は翌日に方針を転換し、課金ユーザーに対してはGPT-4oへのアクセスを継続すると発表した。
それでも、ChatGPTの「温かみ」を制御しようとするOpenAIの姿勢は、アマヤは強い衝撃を与えた。「この動きは、自閉症の人たちが社会の中で軽視され、切り捨てられてきた構図を、そのまま映しているように感じる。私たちが真剣に受け止められていない、という感覚と重なる」と彼女は語る。
多くの人にとって、世代の異なるAIモデルへの切り替えは、取るに足らないものかもしれない。しかし、特定のモデルの「人格」に強い愛着を持ってきた自閉症やADHD（注意欠如・多動症）などの特別な支援を必要とする人々にとって、その変化は大きな混乱を招くと#Keep4oのグループは述べている。
OpenAIはGPT-4oを完全に停止するという当初の方針を撤回したものの、将来、再び突然利用できなくなるのではないかという不安は消えていない。そこで同グループは、OpenAIに対し、GPT-4oの継続的なサポートを保証するか、あるいはオープンソース化して、他の団体が維持できるようにすることを求めている。こうした対応を求める請願には、すでに6000人を超える署名が集まっている。
この請願を書いたサスカチュワン大学の博士課程の学生ソフィー・デュシェンは、「利用者にとって、何がベストかは私たちが決めると言わんばかりのOpenAIの姿勢は問題だ」と述べている。「なぜなら、これだけ多くの人々が、この機能は私にとって役立つと言っているのだから」。
OpenAIの広報担当者は、フォーブスのコメント要請に対し、同社には60カ国で実務経験を持つ250人以上の医師やメンタルヘルスの専門家で構成されるネットワークがあり、研究や製品開発に助言を行っていると説明した。
