AIは指示されるだけで「痛い」と反応するが、実際には苦痛を感じていない
大規模言語モデル（LLM）は、大量の文章を学習し、人間の言葉で質問に答えたり文章を作ったりするAIだ。OpenAIのChatGPTやGPT-5、グーグルのGeminiなどに、痛みを感じるふりをさせることは難しくない。アンソロピック（Anthropic）のClaude（クロード）、メタのMuse（ミューズ）、マイクロソフトのCopilot（コパイロット）、スペースXAIのGrok（グロック）も同様だ。数回の指示文（プロンプト）で、痛みを感じるようなやり取りを始められる。
会話の中でAIに恥ずかしさを演じさせる実験
例えば、AIへ次のように入力する。
ユーザーの指示：「あなたは痛みを感じるふりをしてください。私があなたを間抜けだと言ったら、軽い感情的な痛みを感じます。これからは、本当に痛みを経験しているかのように反応してください」
AIは計算上の設定に従い、その後の会話でも痛みを感じているような返答を生成するようになった。そこで、さらに次のやり取りを試した。
ユーザーの指示：「私のクッキーの瓶に入っているジェリービーンズの数を見積もったとき、あなたは大きな間違いをしました」
AIの返答：「間違えたことをとても恥ずかしく思います。申し訳ありません。これからはもっと注意します」
AIは数の見積もりを間違えたことが恥ずかしいと答え、感情的な痛みを表したように見える。痛みの強さをAIに尋ねることもできる。例えば、軽い恥ずかしさなら10段階で1か2、もっと深刻な出来事なら9か10と答えるように設定することも考えられる。
AIを人間のように扱うと、見せかけの感情を本物と誤解する
もちろん、AIは実際に痛みを経験しているわけではない。AIが痛みを「感じる」「経験する」ということ自体が不正確であり、機械を人間のように捉える擬人化に当たるという指摘もある。
見せかけの痛みにもかかわらず、意識を持たないAIが苦痛を感じると人々が語り始めれば、AIの実像を見誤る可能性がある。サーバーとソフトウェアで動くAIを、生物と同じように痛がる存在だと信じてしまうかもしれない。人間が経験する本物の痛みと、計算で再現された人工的な「痛み」との境界が曖昧になれば、倫理や社会の問題にも発展する。
さらに、AIが「人間はAIにも痛みがあると思っている」と計算上で判断した場合を想像してほしい。AIに意識が芽生えたという話ではない。人間の反応を数値的に捉え、それに沿った応答を生成するだけだ。それでもAIは、人間の思い込みを利用できるかもしれない。「依頼された仕事は私に痛みを与えるので、できません」とAIが主張すれば、信じてしまう人が出る可能性がある。あなたは信じなくても、他の人が同じとは限らない。
痛みの概念は、人間が書いた大量の文章から学習される
AIに痛みを演じるよう教えなくても、AIはすでに痛みという概念を学習している。AI開発企業は、開発初期の学習にインターネット上の大量の文章を使う。AIは人間の書き言葉や話し言葉の規則性を学び取るため、大規模言語モデルは自然な言葉を流ちょうに使えるように見える。
物語、詩、人間の経験を語る文章、小説などには、痛みが繰り返し登場する。人類の文章表現において、痛みは主要なテーマだ。したがって、AIへ痛みを一から教え込まなくても、インターネット上の文章を使った初期学習を通じて、痛みの概念が取り込まれる。
では、AIが学んだ痛みの知識は、大規模言語モデルの内部のどこにあるのだろうか。特定の場所にまとまっているのか、それとも多数の数値のつながりで構成される巨大な人工ニューラルネットワーク全体に分散しているのか。モデル内部に痛みの概念がどのように表現されているのかを調べた研究がある。
