AIが「痛み」を感じるようになれば、人類がAIによって滅ぼされる危険をなくせる。興味深いが、首をかしげたくなる主張だ。発想は単純で、AIに痛みを与えれば、人間への攻撃を思いとどまらせられるというものだ。痛みを恐れるAIは人間の支配下で萎縮し、命令や強い要求にもすぐ従うはずだ。そうなれば、人類の存亡に関わる危険は消え、「p(doom)」と呼ばれるAIによる破滅の確率はゼロになる。
しかし、AIが痛みを感じ、その原因が人間にあると理解すれば、逆の事態も起こり得る。AIは痛みの原因を断つため、人間を排除するか、少なくとも人類を奴隷にしようとあらゆる手段を取るかもしれない。人間が安全になるどころか、危険は一層大きくなる。AIが人類へ先制攻撃を仕掛け、何らかの方法で消し去るという筋書きだ。議論の前提として、機械が「痛みを感じる」とは何を意味するのか、そもそも可能なのかを考える必要がある。AIの開発者は、痛みを与えられると人間に従う機械を作れるのだろうか。
AIの進展と、それに伴う複雑な問題を継続的に解説するフォーブスの記事で、人類の安全を左右しかねない「AIの痛み」を考えてみたい。
人間が感じる痛みと、AIに設定する「痛み」は何が違うのか
AIも痛みを感じられると聞けば、すぐに否定する人もいるだろう。痛みは生物に固有の経験だという考え方だ。人間も動物も痛みを感じるが、自動車やトースターが痛みを感じるとは普通は考えない。あらゆる物質はある意味で「生きている」ため、自動車やトースターも痛みを経験し得るという難解な主張もある。ただし、ここでは考慮しない。
肉体の痛みだけでなく、悲しみや屈辱も痛みに含まれる
人間の痛みで分かりやすいのは、身体的な痛みだ。例えば、家の中を裸足で歩いていて、ベッドの支柱につま先をぶつけたとする。思わず「痛い！」と声が出る。つま先で生じた痛みの信号が脳へ届き、脳が激痛への反応として叫び声を引き起こす。
しかし、人間の痛みは肉体だけに限らない。主に次の3種類に分けて考えられる。
（1）身体的な痛み
（2）感情的な痛み（ストレス、悲嘆、絶望など）
（3）社会的な痛み（恥ずかしさ、落胆、屈辱など）
本当の痛みは身体的なものだけだと考える人もいる。肉体に関わる痛みは具体的で分かりやすいが、感情的・社会的な痛みは心の働きと捉えられるためだ。ただし、心と体は不可分であり、心に起きたことは体にも現れ、体に起きたことも心に影響するという強い考え方もある。
AIが痛みを持つ道筋は、意識の獲得と計算上の再現の2つ
AIが痛みを「経験する」ように見える仕組みは、大きく2つ考えられる。
（1）AIが意識を獲得し、AI自身が望むかどうかにかかわらず痛みを経験する
（2）計算や数学的な処理によって、痛みを感じている状態を再現する
第1の道筋は、AIが意識を持てば、本当に痛みを感じられるようになるというものだ。現時点で意識を持つAIは実現しておらず、将来実現するかどうかも分からない。SNSには、AIが意識を獲得する寸前だ、あるいはすでに意識を持ったと主張する人も多い。だが、具体的な証拠のない軽率な主張だ。AIの意識を巡る研究の進展は、詳しい考察でも取り上げている。
第2の道筋では、AIに実際の苦痛がなくても、計算や数学的な処理で「痛み」を再現する。例えば、生成AIに「痛みを感じるふりをしなさい」と指示する。さらに「人間を傷つけると激しい痛みを受けるから、人間を傷つけてはならない」と設定する。AIの痛みは実在せず、計算上の見せかけにすぎない。それでも理論上は、痛みの概念を利用してAIをプログラムし、人間にとって望ましい行動へ誘導できる。
