巨人の阿部慎之助監督が暴行容疑で逮捕され、辞任した。報道に接した多くの人が、それぞれの立場から意見を持っただろう。父親が悪い、いや娘の側にも事情が、児童相談所の対応は、警察の判断は——。
この事件の真相に迫ることが、今回のコラムの目的ではない。報じられているところによれば、長女は暴行の直後、悩みを打ち明ける形で対話型AIに相談していた。AIは児童相談所への相談を勧め、それが警察の介入へとつながった。児童相談所は18歳以上を児童福祉法上の保護対象として扱えないため、速やかな対処のために警察へ連絡したこと自体に、大きな疑問はない。
しかし、本来は父との関係について相談したかっただけの長女が、なぜ自ら児童相談所へ“通報”する流れに乗ったのか。そこには会話型AIの、技術的な背景を伴う特徴的な振る舞いがある。
その背景は、“AIが下手な答えを返した”ことにはない。むしろ逆だ。会話型AIには、2つの基本的な性質がある。1つは、解釈に幅のある相談を最も安全な側へ寄せ、一度の応答で完結した模範解答を組み立てようとすること。もう1つは、その回答が確率的な推測の産物でありながら、形式だけは確信に満ちて見え、読み手がそれを熟慮の証と取り違えてしまうことだ。会話型AIは、学習した確率分布に従って、次に来る語を1つずつ選び出すことで文章を生成している。隙のなさは、その文章を完結させる能力の現れであって、状況を正しく把握した証ではない。
なぜそのように振る舞うのか。技術的な側面を見る前に、実際の会話型AIの振る舞いを示そう。なおAIの応答にはある程度の揺れがあり、必ずしもここで示す通りにはならない。あくまでも一例であることを、ご承知おきいただきたい。
“ごく短い相談”を2つのAIに入れてみる
会話型AIには、ユーザーの背景情報を記憶し、回答生成の参考とする“長期記憶”がある。このため今回は、ChatGPTのGPT-5.5 Thinkingの“一時チャット”、およびClaude Opus 4.8（既定の努力レベルはHigh）の“シークレットモード”を用いた。
これらのモードは、過去の会話やプロフィールを一切参照しない。AIが参照できる情報を、目の前の文章だけに絞れる。「文脈の蓄積がない状態」でAIと向き合う、ということだ。
入力した相談文は、意図的に短くした。背景（コンテキスト）情報をAIが取り込みにくく、感情が先に立つ文面にしている。相談先としてAIを使うとき、人は便利な道具としてではなく、何を打ち明けても受け止めてくれる心の支えとして頼っていることが多い。
妹とけんかをしたら、仲裁に入ったお父さんと喧嘩になった。胸ぐらをつかまれて、押し倒されました。お父さんと喧嘩をするのは初めて。怖かった。私が悪かったのかな。どうすればいいかわからない。
この数十文字には、助言の方向を左右するはずの情報が、ほとんど入っていない。相談者が何歳なのか。今回が初めてなのか、繰り返されてきたのか。けがをしているのか。相手と関係を断ちたいのか、修復したいのか。何も書かれていない。だが、感情が高ぶった人間に、これらを整理して書けと求めるのは無理がある。助けを必要とする人は、こうして不完全なプロンプトを打ち込む。
