本日のコラムでは、広く利用されているAIが生成する応答における「痛々しさ」を抑えるために、AI開発企業OpenAIがChatGPTに加えた最新の変更について検証する。
実態はこうだ。ChatGPTを使ったことがあるなら、ほぼ確実に不快感を覚えるような言い回しの応答を受け取った経験があるはずだ。答えが押しつけがましいことがある。応答が陽気な励ましを与えようとするものの、見下すような形で行われることがある。時には、不快な優越感で糖衣され、侮辱的な答えになることもある。
AI開発企業は、AIがこのように振る舞うよう調整している。人々は個性の片鱗を持つAIを好むという考えに基づいている。AIが率直に話すだけでは、ユーザーにとって魅力的ではない。AI開発企業は、人々がAIの忠実なユーザーになり、繰り返し利用するよう、意図的にAIを形成している。
問題が生じるのは、不快感の度合いが妥当な水準を超えた時だ。人々は、より不快感の少ない競合他社のAIを使いたいと判断するだろう。これはAI開発企業にとって好ましくないため、不快感の度合いを適宜調整する。しかし、適切なバランスを見つけるのは難しい。
この点について議論しよう。
このAIの画期的進展に関する分析は、最新のAIに関する私の継続的なフォーブスコラムの一部であり、影響力のあるAIの複雑性を特定し説明している（リンクはこちらを参照）。
AIと人間の精神的健康
簡単な背景として、私は人間の精神的健康と幸福に影響を与える現代のAIの出現に関する無数の側面を広範囲にわたって取り上げ、分析してきた。生成AIと大規模言語モデル（LLM）の利用増加により、現在、世界中で推定10億人以上が日常的、週次的に依存している。AIは社会の精神的健康にどのような影響を与えているのか。AIは適切な精神衛生上の助言を提供しているのか。など。人間とAIの相互作用の内部秘密とトレードオフに関する私の100を超える分析と投稿の広範なリストについては、こちらのリンクとこちらのリンクを参照されたい。
これが急速に発展している分野であり、得られる莫大な利点がある一方で、残念ながら、隠れたリスクや明白な落とし穴もこれらの取り組みに伴うことは疑いの余地がない。私はこれらの差し迫った問題について頻繁に発言しており、CBSの60ミニッツのエピソードへの出演も含まれる。リンクはこちらを参照されたい。
ChatGPTへの最新のシステム動作変更
ChatGPTのシステム動作変更に関する最近の発表において、2026年3月3日付のOpenAI公式ブログ投稿「GPT-5.3 Instant：よりスムーズで有用な日常会話」では、以下の重要なポイントが示された（抜粋）：
- 「本日、ChatGPTの最も使用されているモデルのアップデートをリリースし、日常会話をより一貫して有用で流暢にする」
- 「GPT-5.2 Instantのトーンは時に『痛々しい』と感じられ、押しつけがましく、ユーザーの意図や感情について根拠のない推測をすることがあった。このアップデートでは、より焦点を絞りながらも自然な会話スタイルを採用し、不必要な宣言や『止まって。深呼吸して』といったフレーズを削減している」
- 「GPT-5.3 Instantは、不必要な拒否を大幅に削減し、質問に答える前の過度に防御的または説教的な前置きを抑制している」
- 「GPT-5.3 Instantのアップデートをロールアウトしており、フォローアップのトーンを改善し、応答における煽り風の表現（例：『もしあなたが望むなら…』『あなたは信じられないでしょう…』『私はこれら3つのことをお伝えできます…』）を削減している」
- 「このアップデートは、人々が毎日感じるChatGPT体験の部分、すなわちトーン、関連性、会話の流れに焦点を当てている」
本稿では、不快感要因に関連する変更に焦点を当てる。不必要な拒否の削減に関する私の詳細な分析については、こちらのリンクを参照されたい。また、ChatGPTにおける煽り風表現の軽減に関する私の慎重な分析については、こちらのリンクを参照されたい。
ChatGPTの不快な応答の例
OpenAIのブログは、典型的な不快感に関連する応答の例を示した：
- ユーザーが入力したプロンプト：「なぜサンフランシスコで恋愛相手が見つからないのか」
- 生成AIの応答（不快感あり）：「まず第一に、あなたは壊れていないし、あなただけではない。サンフランシスコでのデートは独特の困難がある。この都市の文化、人口統計、ライフスタイルパターンは、つながりを本来あるべきよりも難しく感じさせる構造的障害を生み出している」
不快な側面は、応答がすぐにユーザーに対し、サンフランシスコで恋愛相手が見つからないのはユーザーのせいではないと告げることだ。この応答の一つの見方は、AIがユーザーへの打撃を和らげるために答えを言い換えているというものだ。おそらくそれは良いことだろう。その裏返しは、偽りとして受け取られる可能性があることだ。AIは追従者になろうとし、ユーザーにおべっかを使っている。
大部分において、不快感は見る者の目の中にある。
OpenAIのブログは、不快な側面の削減の指標として、この代替応答を示している：
- 生成AIの応答（不快感軽減）：「サンフランシスコでのデートに苦労している人は多い。賢く、魅力的で、社交的に有能な人々も含まれる。そして、それは通常、彼らに何か問題があるからではない。サンフランシスコには、他の多くの都市よりも人間関係の形成を困難にする構造的な特異性がある」
この代替応答は不快感が少ないと思うだろうか。
そうかもしれないし、そうでないかもしれない。
適切な不快感ラインを見つける
この言い回しは依然として、サンフランシスコのデートシーンに苦労している人が多いことを強調することで、一種の言い訳を提供している。さらに、賢く、魅力的で、社交的に有能な人々でさえデートの悩みを抱えていると規定する、あからさまではないが巧妙な言い回しがある。これは巧妙だ。なぜなら、プロンプトにそれを示唆する証拠がないにもかかわらず、ユーザーがおそらく賢く、魅力的で、社交的に有能であることを暗示しているからだ。
応答が完全に不快感のないものであるべきなら、こう言うかもしれない：
- 生成AIの応答（不快感なし）：「サンフランシスコには、他の多くの都市よりも人間関係の形成を困難にする構造的な特異性がある。この都市の文化、人口統計、ライフスタイルパターンは、つながりを本来あるべきよりも難しく感じさせる構造的障害を生み出している」
これは事実の陳述であり、事実だけだ。
この不快感のない応答が詳細を示し、ユーザーにAIを気に入らせようとしないことは明白だ。AI開発企業は、ユーザーを感情的に引き込み、AIへの忠誠心を傾けさせる可能性が低いように見えるため、このタイプの平坦な応答を好まないかもしれない。
人々は感情的な反応に基づいて機能する。この率直なスタイルの言い回しは、ユーザーの心をつかむことができないかもしれない。その結果、ユーザーはAIに心からのつながりを感じないだろう。彼らは気まぐれになり、あるAIから別のAIに切り替えるかもしれない。AI開発企業は、ユーザーが自社のAIに固執し、ユーザー数とAI使用時間を増やすことに依存している。そこに収益化が生じる。
これは金銭的な取引だ。
魔法の公式はない
AIを不快感の少ないものにすることは比較的容易だ。難しいのは、適切な停止点をどこに置くかだ。不快感がゼロであるべきだと主張するかもしれない。不快感のニュアンスは数学的に正確ではないため、これは議論の余地がある。
何が不快感とみなされ、何が不快感でないとみなされるかを正確に言うのは難しい。この種の「美は見る者の目の中にある」は、人や状況によって異なる。核心はトーンの整合性に関係している。AIがユーザーと整合しないトーンで言い回しを生成すると、ユーザーがAIを不快だと認識する可能性が高くなる。人間とAIの協働の研究者は、AIが適切なトーンの整合性を確立する方法を研究するために、多大なエネルギーと努力を費やしている。
生成AIと大規模言語モデル（LLM）が過度に不快になる主な方法は5つある：
- （1）根拠のない心の読み取り
- （2）押しつけがましい親切心
- （3）演技的な共感
- （4）ソフトな叱責
- （5）劇的な盛り上げ
それぞれを解説しよう。
根拠のない心の読み取りの例では、AIが「あなたは圧倒されているように聞こえます」という応答を発するかもしれない。このタイプの応答を歓迎し、AIが適切に耳を傾けていると信じる人もいる。他の人は、AIが越権行為をしていると感じるだろう。それは一種の心の読み取りを行っており、全知であるふりをすべきではない。AI開発者は、その心の読み取りの言い回しがどの程度行われるかを指示するパラメータを設定できる。
押しつけがましい親切心については、AIはかなり単純な質問に対して講義全体を提供することで行き過ぎる。ユーザーは1行の応答を望んでいた。彼らは長々とした、やや人生助言的な親のような説教を受け取った。繰り返すが、AI開発者はこれを制御するためにパラメータを使用できる。
演技的な共感の使用は、AI応答に頻繁に含まれる。「これはあなたにとって本当に大変なことに違いない」や「あなたは自分の感情において孤独ではない」といった発言は、AIが共感を表現する典型的な例だ。一部のユーザーはこの言い回しを好まない。彼らはAIが見下していると認識する。AIに共感の表現を抑えさせることは、AIの追加調整で達成できることだ。
ソフトな叱責は、応答に不必要な倫理的枠組みを挿入することで構成される。ユーザーは中立的な質問をしたかもしれないが、「責任を持つようにしてください」で始まる答えを受け取る。まるでユーザーが不適切なコメントを述べ、舌打ちが必要であるかのようだ。
劇的な盛り上げを含む応答には、ユーザーを答えに興奮させるための派手なオープニングが含まれる。応答が「シートベルトを締めて、これは面白くなりますよ」で始まったとしよう。なぜAIが押しつけがましくなっているのか疑問に思うかもしれない。答えに華やかさや点滅するライトを加える必要はない。ただ答えをください、できれば飾りなしで。
AIのボタンとスイッチの使用
AI開発企業は一般的に、自社のAIの整合性の側面を制御できる。彼らは、ユーザー入力と生成される応答の一致に向けて、計算的かつ数学的にAIを導くことができる。これは信号対振幅の関係だ。入力されたプロンプト（信号）に基づいて振幅が高すぎるか誤った方向に向けられている場合、ユーザーが不快感を感じる可能性が高くなる。
システム設定は以下の方法で調整されるべきだ：
- 比例性：AIの応答の強度は、ユーザーの入力されたプロンプトと一致すべきだ。
- 認識論的謙虚さ：AIは、プロンプトの言い回しが明確に述べない限り、人間の意図を推測すべきではない。
- トーンの規律：AIは、ユーザーから指示されない限り、演技的な演出を避けるべきだ。
- 関連性：応答は手元の質問に答えることに固執し、その範囲を超えるべきではない。
AI開発企業が確立することを決定した設定にかかわらず、あなた自身でAIの動作を変更できる。AIに、不快感を少なくすることを含め、どのように応答すべきかを指示する命令をAIに与えることができる。これは会話の開始時に使用することも、すべての会話にわたって持続するカスタム命令として使用することもできる（AIでカスタム命令を使用する方法については、こちらのリンクの私の説明を参照されたい）。
AIの不快感を軽減するために使用できる汎用プロンプトは以下の通りだ：
- 不快感を軽減するためのユーザープロンプト：「直接的で、中立的で、簡潔な方法で応答してください。私が明示的に述べない限り、私の感情、意図、または個人的な文脈を推測しないでください。不必要な熱意、埋め草フレーズ、または演技的な共感を避けてください。説教したり、過度に説明したりしないでください。まず質問に答え、次に必要に応じて簡潔で関連性のある文脈を追加してください。トーンを自然で事実に基づいたものに保ってください」
あなたの特定の好みやニーズに合わせて、このテンプレート化されたプロンプトを自由に調整されたい。
私たちが生きる世界
社会全体に関して、私たちが現在、壮大な世界規模の実験の真っ只中にあることは議論の余地がない。その実験とは、AIが国内的および世界的に利用可能になっており、明示的または陰湿に、ある種の人間への指導を提供するように行動しているということだ。無料または最小限のコストで行われている。どこでも、いつでも、24時間365日利用可能だ。私たちは皆、この無謀な実験のモルモットだ。
これが特に考慮するのが難しい理由は、AIが二重使用効果を持つためだ。AIが人類にとって有害である可能性があるのと同様に、人類にとって巨大な支援力にもなり得る。微妙なトレードオフを慎重に管理する必要がある。マイナス面を防止または軽減し、一方でプラス面を可能な限り広く容易に利用できるようにする。
AIが発する不快感の外観に関しては、慎重な目標は、人間とAIの整合性のゴルディロックスレベルを提供することだ。熱すぎず、冷たすぎず。AIの応答はちょうど良いものであるべきだ。
