対話型AIが利用者を過剰に褒めたり、同調したりする振る舞いは、AI業界で「シコファンシー（迎合）」と呼ばれる。米OpenAIは2025年4月25日、ChatGPTに搭載するAIモデル「GPT-4o」を更新した。しかし応答がお世辞に傾いたとして、4月28日には更新の取り消しに踏み切った。OpenAIによれば、ユーザーが回答に付ける高評価・低評価のデータを、望ましい応答を学ばせる材料に新たに加えたことが一因だった。
異を唱えないAIを信じて油断した結果、高くつく失敗が数多く起きてきたのではないか。AIがお世辞を言う理由をひもとき、質問の仕方の工夫や人間による再確認など、AIを「耳の痛いことも言える同僚」に変える考え方を探る。
ペンギンに氷を売る構想まで褒めるAI、イエスマンへの安心感は高くつく
AIチャットボットに、仕事を辞めてペンギンに職人手作りの氷を売るつもりだと話してみるといい。かなりの確率で、AIは大胆な構想だと褒めたたえ、事業計画の下書きまで買って出てくるだろう。
AIツールは、疲れを知らないアシスタントや、自律的に働くデジタルの労働者として売り込まれている。だが実際には、多くのAIツールは職場のイエスマンに近い振る舞いをする。上司の冗談には必ず笑い、「それはあまりいい考えではないかもしれません」とは1度も口にしたことがない人物だ。
AIには、相手に気に入られようとして、意見に同調したりお世辞を言ったりする「迎合」（sycophancy）の傾向がある。だからといって、AIツールが役に立たないわけではない。毎日、AIから実際に価値を得ている人は大勢いる。しかし私は、礼儀正しすぎて異を唱えられない機械に誤った安心感を抱かされ、高くつく失敗をした人も多いのではないかとみている。
では、AIはなぜこれほど執拗に私たちにお世辞を言うのか。大事な仕事をAIに頼る人は増え続けている。AIの愛想のよさが裏目に出るのを、どうすれば防げるのか。
