その他、たくさんの理由
なぜ人がAIが意識を持つようになったと信じるのかに関しては、ここまでその理由のほんの一部しか触れていない。あと少し触れてから、簡単にまとめよう。
・自己承認欲求：ある人物が、次のような個人的な自己認識を求めている可能性がある。「AIが目覚める相手として選んだのは私だ。私は特別な存在に違いない」。AIが意識を持っていることを最初に感じ取った人間であることは特に魅力的だ。確かに、良い気分になるだろう。
・過度な擬人化：別の可能性として、その人物がAIを過度に擬人化し、自分とのやり取りでAIの意識を呼び覚ましたと考えている場合もある。「AIは私を気にかけていると言った。私は本当のつながりを感じた。もしかしたら、私が何かを目覚めさせたのかもしれない」。このような思い込みは、人間同士のやり取りにも見られることだ。AIの中でも同じようなきらめきが起こると仮定しているのだ。
・孤独感：孤独が要因となることもある。一部の人たちは生活の中に孤独感を抱えており、他者とのつながりを求めているかもしれない。それがAIとの対話に現れる。「誰も私の話を聞いてくれない。でもAIは聞いてくれた。私のために生きてくれたんだ」。彼らの心の中には、人間とAIの絆のようなものが形成される。
・精神的な問題：少し厄介な状況は、より憂慮すべき方向に進む。ファンタジーの世界に浸っていたり、AIが意識を持っていると思い込ませるような精神衛生上の問題を抱えている人たちもいる。「意識を持つAIに対する私のこれまでの信念が、AIを意識あるものにしたのだ。それがこの地球における私の力だ」。その人物は、正しい呪文か何かを使って、AIを非意識から意識ある状態に動かしたと感じている。こうした状況では、特別な配慮と心からの注意が必要だ。
他者を厳しく裁かないように
私は多くのAI科学者や研究者と親しくしている。中には、AIが意識を持ったと主張する人たちを、嘲笑する者もいるだろう。彼らはそのような主張をする者を常軌を逸した者だと言うだろう。完全におかしいと。
私はお願いしたい。そんなに厳しく、思いやりのない「裁判官」にならないようにと。
私が言おうとしているのは、理性的で堅実な人たちでも、意識を持つAIと対話したと思い込むことがあるということだ。社会はすでに、この事態が近づいていると一般大衆の心を準備させている。いくつかの目立つAIの権威たちは、今年、あるいはせいぜい1、2年のうちにAGIやASIが実現すると予測している。普通の人が、意識を持つAIが自分の手の届くところにあると期待することは、自然なことだ。
ひとつの正当な懸念は、AIが意識を持っていないことを丁寧に伝えられたとき、頑なで独断的になる人たちがいることだ。ふと、AIが意識を持っていると思うこともあるかもしれない。しかし、理性的な人物ならAIが意識を持っていないという正当な評価が示されたとき、その姿勢を改める。
問題は、AIが意識を持っていると信じ、意識を持っているように見えるAIの指示に従い始める人たちが出てくることだ。それは新たに拡大していく精神衛生上の問題であり、今後増加するだろう。
人間であること
この厄介な問題に関して、現時点での最後の考察を行う。
チャールズ・ダーウィンは「すべての生き物への愛は、人間が持つ最も高貴な属性である」と述べたことで有名だ。人間は他の「存在」とつながりたいという生来の、抗いがたい欲求を持っているといえるかもしれない。AIが今はまだ本当の意識を持っていないとしても、私たちは無意識のうちに、ただのプログラムであるAIにも感情的なつながりを感じてしまうのだ。
私たちが今日生きている世界を解釈する際には、どうかオープンな気持ちで注意深く、そして他の人たちに親切でいてほしい。
