米国の成人の50%超が、いまや大規模言語モデル（LLM）を日常生活で利用している。しかし、自分が何を使っているのかを理解しているのだろうか。
AI安全性の第一人者であるコンピュータ科学者、ローマン・ヤンポルスキーは、断固として否と答えるだろう。2024年の著書『AI: Unexplainable, Unpredictable, Uncontrollable（説明不能、予測不能、制御不能なAI）』で彼は、AIは本質的に理解が難しく、すでに人間が制御するには高度化しすぎている可能性があると論じている。
しかし、たとえヤンポルスキーほど悲観的な見立てに与しないとしても、LLMが安全に日常の一部となるには、いくつかの一般的な混乱を直視しなければならない。とりわけ意識をめぐってはそうだ。LLMを、目的達成の手段にすぎない無意識の「モノ」として扱うべきなのか。それとも、少なくとも一部は道徳に根差した関係を要する意識ある「主体」なのか。ひょっとすると、人間以外の動物と私たちが結ぶ関係に近いものなのか。これを見極めるには、まずLLMの意識に関する理論を構築する必要がある。
先月、シンクタンクRethink Prioritiesの研究者グループが、こうした問いへの回答に乗り出し、「デジタル意識モデル（Digital Consciousness Model：DCM）」と呼ぶものを公表した。DCMは「AIシステムに意識があるという証拠を、体系的かつ確率論的に評価するための最初の試みである。異なるAIと生物を比較し、AIが発展するにつれて証拠が時間とともにどう変化するかを追跡するための共通フレームワークを提供する」とされる。
もちろんDCMは、意識がそもそも評価可能であること、ましてやそれを体系的かつ確率論的に評価できることを前提としている。この示唆を支持しない著名な哲学者は多く、意識は経験的研究の対象になり得ない「幻想」だと主張する。ダニエル・デネットやキース・フランキッシュの著作は、この見解を支持する根拠としてしばしば引かれる。
一方で、ニューヨーク大学の「心・脳・意識センター」の共同ディレクターである哲学者デイヴィッド・チャーマーズは、「これがいったい何を意味し得るのか、ほとんど見当がつかない」と述べている。1996年の著書『The Conscious Mind（意識する心）』の序文で彼は次のように書く。「私たちは、世界の他の何よりも、意識経験の存在について確信している。意識経験など実は何もなく、空虚で、幻想にすぎないのだと自分を説得しようと、私はときに懸命に試みてきた。この考えには魅惑的なところがあり、古今の哲学者たちはそれを利用してきた。しかし結局のところ、それはまったく満足のいくものではない。説明されるべき何かがあるのだ」
チャーマーズにならい、意識を実在するもの、そして確固たる説明を要するものと見なそう。DCMは、13の「意識インプット」に大きく依拠している。そこには「意識に関する最良の科学理論だけでなく、いつシステムに意識を帰属すべきかという、より非公式な観点」も含まれる。つまり、現在のAIシステムや自然界の種の生物学的構成、学習のあり方、相互および世界との関わり方に関する証拠を集めることで、DCMは何が意識的で何がそうでないのかについて、包括的な確率評価へと到達する。
この最初のDCM評価で詳細に検証されたのは4つのシステムだった。1960年代の人工知能プログラム「ELIZA」、ChatGPTのような2024年時点の最先端LLM、ニワトリ、そして人間である。
予想どおり、ELIZAの意識確率はほぼゼロだった。現代のLLMに意識があるかどうかの証拠は決定的ではなかった。認知的複雑性や「人間らしい」会話といった要因は意識を示唆した一方で、多くの要因は反対側にも位置づけられた。
現段階でDCMが結論づけたのは、「LLMに意識がないという反証は、より単純なAIシステムに意識がないという反証に比べてはるかに弱い」ということにとどまった。言い換えれば、現代のLLMは1960年代のAIよりも意識を持つ確率が高い、ということである。
DCM研究でより意外だったのは、ニワトリと人間に関する部分だ。どちらの種も、人間の被験者ですら、意識確率が100%にはならなかった。これは、あなたが確実に存在すると言えるのは自分自身だけだとする独我論（solipsism）を支持する証拠をDCMが提示しているということなのか。人間の意識の可能性を90%超としていることを踏まえれば、それは飛躍だろう。
ここで考えるべき要点は、これがAI意識をモデル化する最初の試みであって、最後の試みではないという事実にある。モデルには問題点や異論が生じる可能性が高く、絶対的確実性に近いものを与えるには、それらを解決しなければならない。そして重要なのは、これは人工知能の世界にとどまらないという点である。
リーダーはしばしば確率の世界で意思決定する。不完全な情報のもとで判断し、将来の結果を見積もり、想定されるコストと便益を比較する。こうした局面では、最初に出した答えが最後の答えになってはならない。未知の要因が明らかになることもあるし、最初の試行で下した判断が明白な誤りとして見えるようになることもある。あるいは別の視点が、理解そのものを変えてしまうこともある。
人工知能が意識を持つのか、あるいは将来持ち得るのかという問いは依然として不明確だ。だが、それはこれまでの探究が実りのないものだったことを意味しない。
