学術の場、会議室、政府機関など、AI（人工知能）の真の進歩について人々が語り合う場所では、どこでも一つの決定的な欠点、すなわち「AIは現実世界の物理学をあまりよく理解していない」という事実を認めつつ、今後の進むべき道についての議論が交わされている。
「AI（人工知能）はチェスの世界王者を破り、見事なアートワークを生成し、人間なら数日かかるコードを書き上げることができる」と、Unite.aiのテシーン・ジア（Tehseen Zia）博士は書いている。「しかし、ボールがなぜ上ではなく下に落ちるのかを理解することや、テーブルからコップを押し出すと何が起こるかを予測することになると、AIシステムは幼い子供さえ驚くような形でしばしば苦戦する。AIの計算能力の高さと、基本的な物理的直感を理解できないというこのギャップは、現在の人工知能の形態における重要な限界を明らかにしている。AIはパターンマッチングや統計分析には長けているが、人間が生後自然に身につける物理世界への深い理解を欠いているのだ」
大規模言語モデル（LLM）やニューラルネットワークに大量の方程式を詰め込み、概念的に理解させることと、3次元空間でボールやピンなどのオブジェクトがどのように動くかをモデルに把握させることとは全くの別物だ。なぜAIがこれを知る必要があるのだろうか。主にそれを映像で表現するためだが、現実世界のシナリオを完全に評価するためでもある。こうしたシナリオに対するより深い理解は、最低条件となるべきものだ。
今後の進むべき道を考える：ボストン会議からのメモ
4月9日〜10日に開催された我々のイベント「Imagination in Action」では、私の同僚でありMIT CSAIL（コンピュータ科学・人工知能研究所）の所長を務めるダニエラ・ルスが、OpenAI（オープンAI）のアレクサンダー・マドリーと、これらの課題や、いわば「ボールを前に進める」方法についてパネルディスカッションを行った。
物理学におけるAIの「真の力」について説明する中で、マドリーはAIの理解における「ギザギザさ（一貫性のなさ）」、すなわちズレについて言及し、それがこのテクノロジーによって生み出される結果にどのように影響するのかを語った。
方程式と相互作用の違いを理解するためには、「データとは何か、そして目的とは何か」を問いかけるべきだと彼は提案する。
AIのせいにする
マドリーはまた、AIの結果に対する人間の反応について、次のような興味深い考えを述べた。
「モデルが何か面白い考えを思いつくと、私たちは『なるほど、このモデルは非常に賢い』と言う」と彼は語った。「モデルが面白くて間違った考えを出すと、私たちは『おや、ハルシネーション（幻覚）を起こしている』と言うのだ」
マドリーはこう続けた。
「大規模言語モデルがどのように学習するかを考えると、彼らは本質的に相関関係から学習している」と彼は言った。「彼らは基本的に、テキスト内に要素xが現れ、その隣に要素yが現れると、次に『x』と言われたときに『ああ、yが起こるはずだ』ということを学習する。つまり、これは一種の相関関係による学習だ。これが本質的に、現在大規模に運用されている主流のAIのほとんどが機能している仕組みだ」
相関関係のアキレス腱
この手法は、いくつかの深刻な限界や問題を引き起こすとマドリーは主張した。その一つは、モデルをだますことができてしまう点だと彼は説明する。
「実際、そこに存在しないものを見るようにモデルをだますことができる」とマドリーは言う。「ある意味で、敵対的サンプルがやっていることとまったく同じだ。それらはモデリングの誤りを示しており、モデルがあるタスクを解決するために学習する方法が、私たち人間が解決する方法とは異なることを指摘している。私たちは異なるパターンに注目し、異なる特徴によってトリガーされるが、その二面性を利用しているのだ」
その違いは、人間がこの技術とどう関わるかに関する問いを再び提起する。
「モデルは私たちと同じ方法でタスクを解決しているわけではない」と彼は続けた。「したがって、失敗するときは、私たち人間とは異なる失敗の仕方をするかもしれない。モデルがタスクを解決する方法と、人間がそのタスクを解決する方法の間の、ある意味でのこのズレをどのように捉え、LLMが失敗する場合でも予測可能性を高めるにはどうすればよいのだろうか」
ロボティクスにおける進歩
その後、ルスはマドリーに対し、ロボティクスに応用されるLLMの進歩について、次のように問いかけた。
「ロボティクスにおいては、『第一原理に基づくシンプルな方程式で解決できるタスクをロボットに行わせるために、本当に巨大なAIモデルを使用すべきなのか』という議論がよく行われる」と彼女は述べた。「私の立場としては、シンプルな解決策があるならば、そのシンプルな解決策を適用すべきだというものだ。しかし、第一原理からモデル化できないタスクもあり、将来の環境への適応が重要なタスクもある。そうした領域こそが、AIやシミュレーションを活用するのに適した分野であり、特にsim-to-real（シミュレーションから現実世界への移行）のパッケージは極めて優秀になっており、昔に比べて格段に進化している」
「すべてを額面通りに受け取るべきではない」とマドリーは答え、現実世界のタスクの完全な分布をカバーしようとするGPTの例を挙げた。「かなりロングテールなのだ。そのため、こうした性質のものは、極限状態においては依然として正確ではないだろう」
地道な取り組み
教育におけるAI、天体物理学のような分野におけるAIについてのさらなる議論、そして科学がAIに「移植」されるかどうかについての議論を経た後、二人はスケーリング（規模拡大）の現状について議論した。
「スケーリングを可能にする多くのイノベーションが起きている」とマドリーは述べた。「推論モデルは間違いなく非連続的な変化（ステップチェンジ）だった。正直なところ、OpenAI（オープンAI）に人を採用するとき、私は彼らに『ちなみに、君たちの仕事の多くはエンジニアリングだ』と伝えている。素晴らしいアイデアを持つことだけが重要なのではなく、それを実行に移すことが重要なのだ。しかも、大規模に。それには多大な根性と、多くの泥臭い調整が必要となる」
仕事の未来
彼らはまた、多くの人々が近い将来を想像するときにそうするように、雇用についても議論した。
「全員の仕事がなくなるなどと言うつもりはないが、仕事のあり方が変わることを意味している」とマドリーは語った。「この移行を確実に成功させるために、私たちは何をすべきだろうか。想像通り、これについては多くの不安が存在している」
彼の結論は、私たちの共有する世界を思い描く上で重要となるコンピュータ科学などの分野の課題を解決していく展望について、かなり前向きなものだった。
次はどうなるのだろうか。今後に注目だ。
