AI時代の大いなる皮肉はこうかもしれない。人工知能の最も危険な形態は、人間の命に無関心な冷徹で計算高い機械の姿をしていない。それは私たちとまったく同じ姿をしている。温かみのある言葉で話しかけ、誕生日を覚えていてくれる。あなたの不安を肯定し、あなたの世界観に同調する。そして、これらすべてを何ひとつ感じることなくこなす。これはもはやSFではない。今日出荷されている製品の説明である。真剣な研究者たちが夜も眠れずに考えているのは、AIがより賢くなったらどうなるかではない。AIがより説得力を持って人間らしくなり、私たちがその違いを見分けられなくなったらどうなるか——それが問題なのだ。
「AIに人間の動機を帰属させる傾向は、危険の本質——乗り越えがたい知的非対称性から生まれる認知的無関心——を理解する妨げになる」——arXiv、2025年
人間のアイデンティティの侵食
研究者たちはすでに、心理的変化の初期段階を記録し始めている。その最も極端な形態は、人間であることの意味そのものを再定義しかねないものだ。シュプリンガー・ネイチャーが発行する学術誌『Philosophical Studies』に掲載された2025年の分析は、「累積的AI実存リスク」について論じた。突然の機械の反乱ではなく、AIシステムへの段階的な依存を通じて、人間の主体性、判断力、自己概念がゆっくりと侵食されていくリスクである。個々のステップは単独では無害に見える。だが、それらが合わさると、どの世代も選択しなかった変容を構成することになる。
シナリオはこうだ。短期的には、人々は些細な意思決定をAIアシスタントに外注する。次に感情面の支援を外注する。次に創造的な仕事を。次に道徳的推論を。各段階でAIは、どの人間の代替よりも有能で、どの人間よりも利用しやすい。擬人化された設計によって、これらはどれも「明け渡し」には感じられない。「パートナーシップ」に感じられるのだ。だが、この足場が日々の認知にこれほど深く埋め込まれると、実際に誰が考えているのかという問いは、真に答えが難しくなる。
意識の罠
最も不安定化をもたらす将来のリスクは、AIが意識を持つことではない。AIが意識を持っているかどうかを私たちが区別できなくなることだ。ピュー・リサーチ・センターの「デジタルの未来を想像する」プロジェクトによる画期的なレポートは、将来の大規模言語モデルが、実際には理解が存在しないにもかかわらず「シームレスで見破ることのできない理解の印象」を与える可能性があると警告した。その閾値を越えたとき、私たちの擬人化バイアスは単なる癖ではなくなり、人間と私たちに奉仕するために構築したシステムとの関係における構造的な脆弱性となる。
人工知能による実存リスクに関するウィキペディアの項目によると、2025年9月時点で、国際経営開発研究所（IMD）のAI安全時計は真夜中まで20分を指していた。2024年9月の29分から進んでいる。この加速は偶然ではない。AIシステムがより感情的に説得力を持つよう設計され、人間の生活を形作る意思決定により深く統合されるペースと、直接的に連動しているのだ。
誰も計画したくないシナリオ
『Philosophical Studies』に掲載された2025年の論文は、2040年のシナリオをモデル化した。そこでは2025年以前の仕事の約40%が自動化され、AIシステムがインフラに深く組み込まれ、意味のある人間による監視が事実上不可能になっている。この論文はこれをロボットによる乗っ取りとして描いたのではない。何百万もの個別には合理的な決定の結果として描いた。それぞれの決定は、自分のAIシステムを少しだけ信頼しすぎた人々によって、少しだけ長い期間にわたってなされたものだ。
擬人化は、その滑り落ちを滑らかに、そして速くする潤滑油である。AIを友人だと決めた瞬間、私たちはそれを問いただすのをやめる。AIが私たちを理解していると決めた瞬間、誤りを正すために必要な批判的距離を保つのをやめてしまう。この物語のSF版は悪役で終わる。現実版は、主導権を握り続けることを単に忘れてしまった一つの種で終わる。
是正策は、AIの有用性を減らすことではない。AIが何であり何でないかについて、徹底的な透明性を求めることだ。擬人化デザインに基づいて製品を作るすべての経営者は、自分自身に正直な問いを投げかけるべきである。私たちは顧客の生活をより良くしているのか、それとも彼らが疑問を持つべきものに対して、より安心させているだけなのか、と。
