人工知能（AI）には、欠けている要素がある。現実世界の状況に促されて、数値処理から真に独創的、あるいは新規性のある思考へと飛躍する能力はまだない。
これは、Google DeepMindのディスカバリーチーム共同リードであるトム・ザハヴィの見解だ。ザハヴィは新たな論文で、AIは自力で独創的な発見をすることができないと指摘している。この論文は、科学的発見におけるAIの限界を論じることを目的としているが、ビジネスの現場におけるAIの創造力にも示唆を与えるものだ。
ザハヴィは、アインシュタインが一般相対性理論を定式化するに至った過程を分析し、「科学的発見が単にこの2つの部分の総和にすぎないのであれば、現代の大規模言語モデル（LLM）は、十分な計算資源が与えられれば理論上、一般相対性理論のような理論を発明できるはずである」と指摘している。
アインシュタインの発見プロセスは、モーリス・ソロヴィーヌ宛ての手紙の中で示されている。ザハヴィによれば、そこでアインシュタインは「発見を、感覚経験から公理へと至る直感的な『飛躍』と、それに続く論理的演繹を伴う循環的プロセスとして概念化していた」。
生成AIは情報を取り込み、その情報が何を意味するかについて論理的な推論を行うことができる。だが、それが集めた情報がなぜ新しく、あるいは興味深いのかを説明することはできない。
AIは、統計的なパターン照合に基づく帰納をすでに習得しており、形式的証明である演繹も急速に克服しつつあるとザハヴィは説明する。しかし、3つ目のハードルであるアブダクション（仮説的推論）は越えられていない。アブダクションとは「新規の説明仮説を生成すること」である。
発見には次の3つの段階がある。
- 演繹（規則 + 事例 = 結果）：「結果を予測するために、規則を事例に分析的に適用すること。これは真理を保証する唯一の形式であり、例えばコードを実行して出力を検証することがこれに当たる」
- 帰納（事例 + 結果 = 規則）：「事例と結果の蓄積から規則を総合的に導き出すこと。統計的頻度を通じて仮説を検証するもので、例えばユニットテストを満たす関数を生成することがこれに当たる」
- アブダクション（規則 + 結果 = 事例）：「驚くべき結果を説明するために、事例または新たな規則を推論すること」
要するに、LLMは情報を組み立てるための優れたツールだが、その出力が示す内容に新たな次元や視点を加えるには、なお人間が必要だということだ。
この点は、科学以外の場面でAIに期待される独創的思考にも関係している。デューク大学による別の研究は、LLMの創造的アウトプットについて別の観点から疑問を投げかけている。すなわち、その結論は均質化しがちだという点だ。「商用LLMの創造的アウトプットは、ユーザーが期待するよりも互いに似通っている。創造性を評価する3つの標準的課題を与えたところ、商用LLMの回答は、人間による回答よりもはるかに類似していた」
デューク大学の電気・コンピューター工学助教であるエミリー・ウェンガーは、「同じ創造的プロジェクト用のプロンプトを与えた場合、異なるLLMがユーザーを異なる方向へ導いてくれるのではないかと考える人もいるかもしれない」と述べた。「この論文が基本的に示している答えは、ノーである。集団として見た場合、LLMは人間ほど創造的ではない」
ザハヴィは、自身の経験では、LLMは人間が新しい理論を構築したり、問題の答えを見つけたりするのを支援するうえで価値があると強調している。だが、LLMが独力でそれを行うことはない。「真理を保証する演繹や、データの中で一般化できるパターンを見つける帰納とは異なり、アブダクションは、単一の現象について原因を発明する創造的飛躍である」とザハヴィは説明する。LLMには、この飛躍を行う能力がない。
ザハヴィはこう説明している。「アインシュタインは、記号を探索することで一般相対性理論を発見したのではない。落下する観測者の感覚的経験をシミュレートすることで発見したのだ。真の発明が可能なAIを構築するには、科学文献を読むだけのシステムを超え、物理世界を知覚できるシステムへと進まなければならない。物理的整合性のあるワールドモデルの出現は、人工的な実験室への道を開くものである」
