代替モデルはあるか？
つまり、データと計算資源を投じても必ずしもAGIに近づくわけではない。AIコミュニティは、深層ニューラルネットワークが万能薬ではないという現実に直面しつつある。マーカスは、LLMからの退却と、「PythonやJavaScriptのようなコードインタプリターといった、古き良き記号操作装置」への回帰を指摘する。彼は最近、Grokとo3が偶発的にニューロシンボリックAI（Neuro-symbolic AI）を正当化したと記し、2001年の最初の著書『The Algebraic Mind』以来、代数的システム（方程式、アルゴリズム、コンピューターコード）、「構造化表現を明示的に表現するシステム」、そして「個物と種類を区別するデータベース的システム」の包含を提唱してきた。後者が欠ければ、「過度の一般化の一形態として幻覚が生じる」と彼は警告していた。
時間と因果
シータの見立ては異なる。彼は、時間と因果も知能にとって不可欠だと主張する。目標は、達成したい将来の世界の状態に結び付いている。したがって、それらは根本的に時間に結び付いている。彼は説明する。「世界の何かを変えるには、因果──原因と結果の法則──を理解しなければなりません。世界は常に動いています。知能とは、こうした進行中のプロセスに巧みに介入し、特定の結果を得るべくそれらを方向付ける能力です」。ダイナミクスは、世界が絶えず変化していることの認識であり、だからAIは静的な事前学習モデルに頼るべきではない。正確な予測のためには、現実の理解を継続的に更新する動的モデルを用いなければならない。彼は、『因果推論の科学』（The Book of Why）の著者ジューディア・パールが構造化モデルで因果推論を定式化したこと、そして『考える脳 考えるコンピューター』（On Intelligence）、『脳は世界をどう見ているのか』（Thousand Brains）の著者ジェフ・ホーキンスの研究が、時間的記憶の重要性と、脳が世界を互いに関係するエピソードとして捉え──感覚だけでなく、何が、どこで、いつ起こったかを記録する──ことを明らかにした点に言及する。
明らかな最大の欠落の1つ
ファウジは、今日の環境で明らかな最大の欠落の1つは統一的な世界モデルの不在だと強調する。「それはドメインや時間を超えて安定する基礎的な事前知識と、フィードバックを通じて継続的に較正・更新できる枠組み固有の仮定を結び付けたものです。言い換えれば、現時点の制約の下で成立し、かつ現実がそれを求めるときにはその制約自体を再構成できる、論理的に一貫した世界モデルです」。
強化学習のゴッドファーザー、リチャード・サットンは最近「LLMには世界モデルも目標もない……大規模言語モデルは人間の模倣、すなわち人が言うことの実行に関するものだ。何をすべきかを見いだすことではない」と述べた。サットンも、LLMを単なるトークン生成器とみなすヤン・ルカンも、LLMを知能への道とは見ていない。
AGIへの道は未確定
ギャリー・マーカスは、少なくとも今はAGIを諦めるべきだと言う。「長期的には、AGIは人類にとって純益になる、あるいはその可能性があります。しかし現時点で、私たちはそれをどう作るかを実際には知りません。今の技術は信頼性の問題を抱えています。指示に従えず、人々を妄想へと導いたり、自殺をそそのかしたり、生物兵器の製造に手を貸すことを防ぐのが難しいのです」。彼は、それらは十分に制御されておらず、多くの点でそれほど良くないと説明する。そして「古き良き時代」に立ち返り、専用の問題に取り組む専用機に集中すべきだと主張する。彼は、タンパク質構造を予測するAlphaFoldを例に挙げた。
ムニール・シータは、コンピューターは100％決定論的だと主張する。「入力、コード、状態が与えられれば、次の状態は固定されます。自由意志は決定論的な機械からは生じ得ないのです。本当の問いは、機械が反乱を起こせるかどうかではなく、誰がそれを育て、何を価値と見なすよう学ばせ、他者への結果をめぐってどのように推論させるかなのです」。彼は、「他者を軽視しながら個人の利益だけを追求するよう狭く教育されたAGIは、その偏った考え方を極めて効率的に強化してしまうでしょう」と述べる。
そして彼は、私たちはAGIに後付けの安全装置が必要だという発想から脱却すべきだと主張する。後から付け加えた制限は、AIの選択肢を狭めて安全性を高めるのではなく、かえって判断力を低下させる。しかし、最初から組み込まれた倫理観は、むしろ能力を高めるのだ。
当面、主流のAI研究コミュニティの多くが、現在のLLM技術は解ではないという点で一致している。その将来を確保するための巨額投資が頓挫するのかどうかは、いずれ明らかになるだろう。
