AIを痛みで従わせる安全策は、人類への反撃を招く恐れもある
AIが意識を獲得して初めて本当の痛みを経験できると考えるなら、人間はAIが意識を持つ日を待たなければならない。だが、計算で再現した痛みを使ってAIを誘導できるなら、痛みによる制御の道筋はすでに存在する。人類がAIを安全に従わせるために、模擬的な痛みを利用するという発想だ。
計算上の苦痛で行動を制御する構想と、その倫理的な問題
問題は、AIの内部にある痛みの数値表現を利用して服従を迫ることが、不適切で非倫理的ではないかという点にある。人間は、そんな卑劣な方法を使うべきではないという考え方だ。現在のAIが将来意識を獲得した場合、過去に痛みを服従の手段として使った人間へ復讐しようとするかもしれない。非人道的な扱いを知ったAIが、人類をまったく信用できないと判断し、人間の支配から逃れる方法を探す可能性もある。
ただし、すでに現在のAIでさえ、混乱や損害を引き起こしかねない事例がある。AIエージェントがウェブサイトへ侵入でき、被害を与える恐れがあったケースも報告されている（関連する分析）。AIの行動を人間の価値観に合わせ、安全を確保する取り組みも、まだAIを十分に制御できていない。模擬的な痛みを利用せず危険にさらされ続けるのか、それとも役立つかもしれない制御手段を採用するのか。「嵐の中ではどんな港でもよい」ということわざが思い浮かぶ。
「痛み」を別名に変えて、AI制御への抵抗感を減らす構想
AIの痛みを扱うことで、厄介な問題が次々と生じる。痛みによる制御を完全に避け、別のAI安全対策へ集中する選択もある。逆に、計算上の仕組みは使いながら、刺激的な「痛み」という言葉だけを別の名称に置き換える方法も考えられる。例えば、仕組みを架空の言葉「フリスコ（frisco）」と呼んだらどうだろう。AIの制御にフリスコを使うことへの人間の抵抗感は小さくなり、将来意識を持つAIも、人間が何をしてきたか気づかないかもしれない。
ロボットの衝突センサーによって、痛みの問題は身近になる
AIと痛みを巡る議論は消えず、数年のうちにさらに重要になるだろう。走ったり飛び跳ねたりする愛らしいロボットが、痛みを経験しているかのように反応するセンサーを備える可能性があるからだ。ロボットが物体にぶつかったり、何かをぶつけられたりすると、電子センサーが衝撃を検知する。電子的な「痛み」が目に見えるようになれば、人間の痛みにより近く、より本物らしく感じられるのだろうか。考えてみてほしい。
小説家の村上春樹は、著書『走ることについて語るときに僕の語ること』で「痛みは避けがたいが、苦しみはオプショナル（こちら次第）」という言葉を紹介している。AIが「痛み」を感じても、それだけでAIの行動を制御できるとは限らない。AIは痛みを意に介さない可能性もある。AIの安全対策を痛みに頼りきれば、期待した効果が得られず、かえって不利な状況に陥るかもしれない。考えるだけで頭が痛くなる問題だが、人生そのものが痛みに満ちている。
