法則はスケールするが、模倣はスケールしない
ムニール・シータは、30年のキャリアを持つAGI研究者で、知能の本質に関する物理学ファーストの研究プログラムを掲げるEraNova Globalの創業者である。彼の「一般知能理論」は、目標を「物理的に実現可能な未来の状態」としてモデル化している。彼は知能を「物理学の制約下で、因果連鎖をその状態に向けて操縦する」能力として定義している。
2010年、シータはこれらの考えを実装するためにキメラ・システムズ（Kimera Systems）を共同創業した。彼は、人間の行動を理解することがAGIへの究極の目標であるという考えを拒否している。ライト兄弟のアナロジーでは、鳥が飛ぶことを可能にしたメカニズムに焦点を当てる。「彼らは羽ばたき機を作ったのではありません。揚力、抗力、推力、制御という法則を見抜き、その法則の下でエンジニアリングを行ったことで、飛行を鳥から解放したのです。だからこそ、何千人もの乗客や何トンもの貨物を運べます。法則はスケールしますが、模倣はスケールしないのです」とシータは説明する。
階層アーキテクチャ
マーク・ファウジはシステム思考家で、通信事業者向けの最初の商用ローコード・プラットフォームを構築した人物だ。1980年代後半、MITのAIラボの博士課程学生らとの初期スタートアップで、ニューラルネット研究と大規模並列計算アーキテクチャに触れた。彼は、人間の知能の複製は単なる計算ではないと述べ、ラトガース大学の計算機科学・法学名誉教授L・ソーン・マッカーティが示した階層アーキテクチャを説明する。これは、彼の考えではAIの構築方法を規定するものとなった。
第一層：統計。認知は過去の出来事（事前分布）に依存し、それが基盤をエンコードするが、新しい証拠で更新される。第二層：構造。概念体系内の類似性や制約を特定し、最終的に意味と枠組みを保持する。たとえば、シュルレアリスムは美術および文学の運動であり、その主要な制約は理性や伝統的慣習の拒絶であるため、この枠組みを支える芸術的技法を用いる。第三層：推論。表現された体系から、何かの導入がどのように説明されるかである。最後に第四層：目的。選好、リスク、トレードオフを定義する。
ファウジは強調する。「四つの層は整合していなければなりません。構造が統計を捉えられず、あるいは推論が構造を無視すれば、流暢だが真実から逸脱した推論になります。目的が不明確なら、的外れの有能さになるのです」言い換えれば、知能とは確率、構造、推論、目的の整合である。
AGI研究者のシータは、知能の定義はファウジと類似しつつ、宇宙の構造の中にあるという。すなわち、状態、目標、そして（追加の次元として）ダイナミクス、時間、因果だ。彼は断言する。「更新・制御則を導出し、その妥当性の領域を明示し、そして構築する。科学と工学は何千年もそうして進歩してきました……もしルールが途中で反転した際に、その場で適応できず、更新の背後にある因果仮説を説明できないなら、それはAGIを作っているのではありません。単なるデモを演出しているだけです」。
大きな賭けを正当化する単純な物語
認知科学者マーカスは、最近『Taming Silicon Valley』を出版した。彼は、巨額の資金を大型フロンティアモデルに投じてきたベンチャーキャピタルは、大きな賭けを正当化する単純な物語──「これらを大きくし続ければ、汎用人工知能（AGI）に到達する」──を好んでいるのではと疑っている。彼は、LLMへのVC投資は、より多くのデータとより多くの計算資源こそが鍵だという信念に基づいていると語る。「たとえ投資で利益を得られなくても、彼らは預かり資産に対して毎年2％を得ます。そのため、大きな上振れのもっともらしい物語を掲げるインセンティブが生じるのです。スケーリングだけでAGIに到達できるという話は、投資家にはもっともらしく聞こえるのです」。
