157人の数理意識科学者が署名した公開書簡は、急速で、ときに憂慮すべきAIの発展を踏まえ、意識の謎を解明する必要があると訴えている。書簡は、「……テクノロジー業界、科学界、そして社会全般に対し、意識科学分野の研究を加速する必要性を真剣に受け止めるよう促す警鐘」であるとの言葉で始まる。
「これはもはや単なる哲学的関心の領域ではなく、現実世界で実際に起きている問題の領域に入ってきた」と語るのは、オックスフォード大学（英国）数学研究所の数学博士であり、数理意識科学協会（AMCS）理事会の副議長を務めるジョナサン・メイソンだ。
AMCSは今回の公開書簡を発表した団体である。AIを取り巻く不安について、メイソンは別の側面もあると指摘する。「（AIシステムは）ある意味で、人類がこのようなものを作り出したという素晴らしい創造の営みだ」。もしAIがいずれ意識を持つと判明するなら、子どもを世に送り出す責任に直面した親がしばしばそうなるように、我々も社会として成熟する可能性があるとメイソンは考えている。そう語った後で彼は我に返り、AIが意識を持ちうるかどうかも分からない段階でこうしたことを語るのは奇妙だ、と付け加えた。
メイソンは現在、AIが意識を持つ可能性について不可知論的な立場を取っている。ただし、これほど重大な問いを単なる意見に委ねることはできないと強調する。つい最近まで、意識研究は正当な科学的探究の領域とすら見なされていなかった。こうした意図的な盲目さのために、プログラマー自身も完全には理解できない形で発展する知的機械から押し寄せる「振る舞い」に対して、我々は十分な備えを欠いたままとなっている。
「今、我々は困った状況にある。米国内国歳入庁（IRS）を動かすAIシステムが、ある日突然クリエイティブになったりしては困るからだ」とメイソンは半ば冗談めかして語る。意識はAIの予想外の能力を芽吹かせる土壌となる可能性があるだけに、これらのシステムに実際どのような可能性があるかをもっと確実に把握できていれば、もっと安心できるだろうと彼は言う。
「その優先順位が実際の行動として何につながるのか、私は懐疑的だ」と語るのは、元NASA/JPLのロボット工学者で、コンパニオンロボット企業Embodied社の創業者兼CEOを務めるパオロ・ピルジャニアンだ。ピルジャニアンは公開書簡を認識している。彼も意識研究の重要性には同意するが、そこから得られる成果が正しく、あるいは生産的に活用されるとは信じていない。もし意識のモデルを開発し、AIが意識を持つと示されたとしても、我々はチェックボックスにレ点を入れて先に進むだけだろう、と彼は言う。「意識研究の加速が何らかの発見をもたらし、それが本当に違いを生む行動へとつながるのであれば、実施する意味はある」とピルジャニアン。「だが、行動を伴わないのであれば、それは学術的な演習にすぎない」
メイソンは、意識の科学的モデルと気候変動の科学的モデルを重ね合わせる。どちらも常に行動不足に苦しんでいるが、それでも取り組む価値はあるはずだと。「気候変動を例に考えてみてほしい」とメイソン。「IPCC（気候変動に関する政府間パネル）が行っているのは、多くのモデル、それも非常に多くの気候モデルを用いることだ。それらは全て同じではない。少しずつ異なる結果が出る。だからこそ、何が起こるかについて一定の幅を持った予測を示す。しかしそれらは概ね一致している。だから全体としての物語は社会にとって有用だ。すべてが、何かをする必要があるという方向を指し示している」
メイソンへのインタビューはこちらから視聴できる。
※本記事は、署名者数が157人に増えたことを反映して更新された
