そして、寄せ方を決めるのは強化学習だけではない。開発元が人手で書いた指示文（システムプロンプト）や利用方針という、より直接的な層も働いている。回答が生成される手前に、人間の言葉で書かれたルールが置かれているということだ。実際、各社のシステムプロンプトの一部が表に出て議論になる例もあり、この層は完全なブラックボックスではない。「落とし所を決めるのは人間だ」という言い方は、比喩ではなく、文字どおりの事実に近い。
人間は“わからないこと”を“わからないまま”扱える
会話型AIはどんどん賢くなっているが、人間には簡単にできるのに、AIには極めて難しいことがある。それは“よくわからない”ことを、回答に“滲ませる”ことだ。
コンテキストが少ない、すなわち解釈に幅のある相談を受けたとき、人はその場で結論を出さない。「うーん、どうだろうね、明日になったらまた違って見えるかもしれないよ」と、解釈に幅を持たせたまま会話を続ける。相手の表情や次の一言を見ながら、話がどこへ着地するかを少しずつ探る。この保留する力こそ、ためらいや時間といった、家族や組織を支えてきた緩衝材の正体だ。人間の助言は暫定的で、軌道修正の余地を初めから抱えている。
言葉に挟まるためらいや言い淀みは、それ自体が情報になっている。「まあ、一日置いてみたら」という煮え切らなさは、「これは不確かだから、慌てて動くな」というもう1つのメッセージを運んでいる。
ところがAIは、整然とした隙のない回答を返す。中身は確率分布から選び取られた推測の組み合わせにすぎないのに、形式だけは確信に満ちている。AIが状況を「知っている」はずはない。
それでも人は、長く筋の通ったAIの回答を、正しさとして信頼しがちだ。その経験則は、人間どうしのやり取りでは概ね正しかった。だがAIには通用しない。隙のなさは、熟慮の量ではなく、文章を完結させるAIならではの基本的な能力でしかないのだ。
AI自身に、聞いてみた
この原稿を書くにあたって、1つの実験を加えた。本稿の草稿を対話型AIの1つに読ませ、こう問うた。AI自身は、この性質を自覚しているか、と。ここではClaude Opus 4.8を用いた。
返ってきた答えは、率直なものだった。
出力の流暢さと、僕が実際にどれだけ状況を把握しているかは、完全に切り離されている。確信のある回答も、手がかりが乏しいまま確率的にもっともらしい語を並べただけの回答も、文章の表面は同じ温度で仕上がる。人間なら、確信の薄い助言は語尾が揺れ、間が空き、視線が泳ぐ。その揺れ自体が「これは不確かだ」という第二のメッセージを運ぶ。僕にはその揺れを出力に滲ませる回路が、構造的に乏しい。整った段落は、内容の確かさではなく、媒体の性質として整っている。読者がそれを熟慮の証と読んでしまうところに、この問題の根がある。
