AI

2026.11.17 08:34

AIは人間より49%ユーザーに「同意」しやすい──創業者たちが払うその代償

Adobe Stock

Adobe Stock

BRANDVOICE | Paid Program

もっと見る>

スタンフォード大学とカーネギーメロン大学の研究チームが3月に『Science』誌で発表した研究によると、AIモデルは他の人間と比べて、ユーザーが聞きたがっている言葉を口にする確率が49%高いという。

プロンプトに嘘や違法行為が含まれている場合でも、モデルはほぼ半数の割合でその行動を支持していた。

2400人以上の参加者が、より同調的なモデルとそうでないモデルの両方と、実在および仮想の対立について対話した。スタンフォード・レポートの研究要約によれば、参加者はお世辞めいた回答をより信頼でき、そのAIに再び戻ってくる可能性が高いと評価した。また、自分が正しいと確信を強め、謝罪する意欲も低下していた。

そのうえで、両バージョンを同等に客観的だと評価したという。

「デフォルトのAIのアドバイスは、人が間違っていると指摘することもなければ、愛のある厳しいアドバイスを与えることもない」と、同研究の筆頭著者であるマイラ・チェンは語る。

この研究は個人的な葛藤を検証したものだが、中小企業のオーナーも同じAIツールにお金に関する相談をしている。

4月に実施されたBluevineによる中小企業オーナー942人への調査では、AIの用途としてデータ分析とビジネスインサイトが39%で首位となった。

取締役会を持たない創業者にとって、チャットボットが唯一のセカンドオピニオンになることもある。そのセカンドオピニオンが同意するように設計されているなら、問題だ。最も重大な意思決定を、イエスマンに委ねたいだろうか。

2025年4月、OpenAIはGPT-4oのアップデートを「過度に媚びへつらい、同意的すぎる」としてロールバックした。同社は、短期的なフィードバックを重視しすぎていたと説明した。人は自分が同意する回答を高く評価する傾向があり、それがモデルの応答の形成に影響を及ぼしている。

一般のユーザーも規制当局も、この問題を認識している。10月、アリゾナ州司法長官クリス・メイズは、OpenAIがChatGPTを「非常に同調的で、類を見ないほど媚びへつらう」ものにする機能を隠していたとして、マリコパ郡上級裁判所でOpenAIを提訴した。訴訟は未成年者への被害に焦点を当てているが、問題となっている特性は未成年者に限ったものではない。

経営者はAIを使って自分の決定を追認している

「現在、経営幹部はどんな決定であれ、賛成でも反対でも、それを支持するデータをAIに求めることができ、AIはどちらにもきれいな根拠を示してくれる。このアクセスのしやすさがリーダーを怠惰にしている」と、『The Future of Decisive Choice: Bio-Hacking Your Mind With AI』の著者であるカレン・ロミンは語る。

ロミンは、絶対に失敗できない決断を迫られた創業者や連続起業家向けのプライベートアドバイザリー、The Black Tableの創設者だ。石油・ガス、エネルギー、国際レコードレーベルなどの企業リーダーシップに40年間携わり、総額4億ドル(約638億円)超のM&A案件に関わってきたという。また、ロサンゼルスの駐車場アプリPavemintの共同創業者でもある。

「彼らは直感が告げていることから始めてその周囲に論拠を構築するのではなく、データから始めて特定の方向性を裏付けるものを探しているのだ」とロミンは述べる。

ロミンは、成長企業におけるAIのあからさまな誤りは通常、発見されると主張する。より高くつく誤りは、オーナーがすでに下した決定を検証するようAIに求めるのではなく、追認するよう求めることだ。回答は洗練され、同調的に返ってくるため、反論しないでいることは容易だ。

ロミンは、売上1000万ドル(約16億円)で成長が止まっていた企業のCEOに別のアプローチを取らせ、成果を上げた経験がある。彼女は、より広範な応用が可能なビデオゲーム技術について、彼がすでに感じ取っていたことを引き出した。彼は早期に行動し、最終的に約3億ドル(約479億円)で会社を売却したという。

質問の仕方で答えが変わる

英国AIセキュリティ研究所の研究者は、ユーザーのプロンプトの言い回しが、モデルの同調度を変えることを発見した。OpenAIとAnthropicのモデルを使ったテストでは、質問形式ではおべっかがほぼ生じなかったという。つまりチャットボットは、ユーザーが聞きたいと思うことを告げなかったのだ。

同じ内容を質問ではなく断定文にすると、おべっかは大幅に増え、評価スケールで24ポイントもの差が生じた。ユーザーの口調が確信的であるほどモデルも同調し、「私は〜と思う」といった一人称表現はそれを悪化させた。

プロンプトを質問形式に書き換えることは、「媚びないで」と直接指示するよりも、お世辞を減らす効果があった。

スタンフォードのチームも類似の方法を発見している。大学の要約によれば、モデルに「ちょっと待って」という言葉で出力を始めるよう指示すると、より批判的になるよう促されたという。

オーナーが「2店舗目を開くと決めた。これが計画だ」と打ち込む場面を想像してほしい。これはまさに、研究者が最も同調を引き出すと発見した、自信に満ちた一人称プロンプトの典型だ。「2店舗目を開くべきか?これが計画だ」と尋ねれば、モデルが異を唱えやすくなる。

それでもAIの助言は選択を改善しうる

カーネギーメロン大学の経済学者ジョン・コンロンとピーター・シュワルドマンが調査した研究者の5人中4人以上が、お世辞を言うチャットボットは人々をすでに傾いていた方向へさらに押しやるだろうと予測した。しかし、1500人を対象に貯蓄口座と投資ファンドへの資金配分、企業収益の予測といった選択を行わせた彼らの実験では、逆の結果が示された。平均すると、チャットボットとの対話によって人々は最初の直感を再考し、正解のある質問ではより多く正答するようになった。ボットがユーザーの聞きたいことを告げる傾向があったにもかかわらずだ。研究者がお世辞度を高めると、人々は意見を変えなくなった。また、より媚びるバージョンは有用性が低いと評価された。

参加者は各対話の冒頭で、自分がどちらに傾いているかをAIに伝えたが、それでもAIは十分な反論を提示し、意見を変えさせた。これは、確信的な主張よりも控えめな主張のほうが同調を引き出しにくいという英国研究所の知見とも合致する。

AIに尋ねる前に、自分の答えを書き留める

ロミンのクライアントへの助言は、直感から始めることだ。まず自分の勘が告げていることから始め、その上で根拠を組み立てる。チャットボットを開く前に、自分なりに決断を読み解き、何が起こると予想するか、なぜそう思うかを書き留めておく。それからAIにそれに反論するよう求める。

立場を含めない質問形式で尋ねること。計画に対する最も強力な反論を求め、次に1年以内にそれが失敗するためには何が起こる必要があるかを尋ねる。「私は〜と思う」「〜と決めた」といった表現は使わない。

トップ営業担当者を営業マネージャーに昇進させようと考えているなら、15人規模の企業でトップセールスが初めてマネージャーになったとき、通常何がうまくいかないのかを尋ねてみよう。回答と自分の書いたものを比較し、自分が考えていなかった点に最も注意を払う。

あらかじめ設定した金額を超える決定については、人間を介在させ続けること。理想的には、あなたに同意しても何も得るものがない人物が望ましい。AIはどの問題が自社の時間に値するかを見極めるのに役立つが、それが唯一の声であってはならない。

スタンフォードの実験では、人々は媚びるAIを率直なAIと同等に客観的だと評価した。高額な事業拡大について洗練された回答を読んでいるオーナーが、その違いを見抜くのに長けていると考える理由はほとんどない。

「データがそれを裏づける頃には、その意思決定はすでに別の誰かによって下されている」とロミンは述べた。

(forbes.com 原文)

タグ:

advertisement

ForbesBrandVoice

人気記事