あるAIシステムが、科学研究の一連のプロセスすべてを自動化した。システムを説明したNature誌掲載の最近の論文によると、「The AI Scientist（AIサイエンティスト）」は、アイデアの創出、実験の計画と実行、結果の分析、論文全体の執筆、そして自らの成果物の査読までを行う。このシステムは、東京に拠点を置くSakana AI（サカナAI）のチームが、オックスフォード大学およびブリティッシュコロンビア大学の共同研究者らとともに開発したものだ。同システムが執筆した3本の原稿は、国際学習表現会議（ICLR）のワークショップに投稿された。そのうち1本は、人間による投稿の中央値を上回る評価を得た。
チームは、発表前にすべての投稿を取り下げた。実験については、会議運営側と大学の倫理審査委員会の承認を得ていた。「査読システムでAIをどのように使うべきかについて、前例をつくりたくなかった」と、論文の筆頭著者の1人でSakana AIの研究者である山田悠太郎氏は語った。その手順は見事なほど透明性の高いものだった。同時に、必然的に、世界中のあらゆる研究室に対して、それが実行可能であることを証明してしまった。
「われわれには、これを実行できるシステムがある」と、ブリティッシュコロンビア大学教授で同論文のシニア著者の1人であるジェフ・クルーン氏は述べた。「そして今、われわれのコミュニティは、始まったばかりの新時代にどう対処するのかについて、大いに議論する必要がある」。強調すべきは「大いに」という点である。
機械が修正できるもの
競争の激しいワークショップで、3本中1本の論文が中央値を上回ったことは、2年前には存在していなかったシステムとしては注目に値する。しかも、より優れたモデルと計算資源によって急速に改善していく類いの結果である。クルーン氏が関心を寄せているのは、単にシステムが向上するという点だけではない。人間の科学者が一貫して苦手としてきたことを、それが実行し得るという点だ。
「AI科学者は、われわれの悪癖やインセンティブを研究の現場に持ち込む必要がない」と、クルーン氏は筆者に語った。つまり、手抜きをし、不都合な結果を隠し、キャリア上の優位を得るためにシステムをうまく利用しようとする人間の傾向のことである。
クルーン氏は、AIシステムの方がうまくできることを列挙した。仮説の事前登録、否定的な結果の報告、きれいな発見を揺るがすかもしれない追加実験の実施である。人間の科学者は、こうしたことを日常的に省略する。キャリア上のインセンティブがその努力に報いない場合もあるが、それと同じくらい多いのは、時間の制約、資金の制約、研究プログラムを管理することによる圧倒的な認知負荷、そして科学を進めながら方法論上のあらゆる理想を一個人が常に意識し続けることはできないという単純な事実によるものだ。
これは明快で魅力的な主張である。同時に、筆者には少し単純すぎるようにも思える。科学における最も深い歪みは、事前登録すべきだと知りながらそれを省く研究者から生じるのではない。より微妙な失敗から生じる。安全な問いを選ぶこと、流行を追うこと、技術的な洗練を洞察と取り違えることだ。既存の文献で訓練されたAIは、そうしたバイアスを修正するのではなく、受け継ぐだろう。
何が問題になり得るのか
それでも、機会は現実に存在する。そして危険もまた現実である。倫理的制約なしに実験を反復するAIは、責任ある科学者なら手を出さない研究を追求しかねない。
「例えば、一部の人々が無謀にも求めているように、AIに探索し、発見し、好奇心を持ち、興味深いものを何でも追わせるようなことはしたくない」とクルーン氏は述べた。「なぜなら、COVIDを100倍危険にできるかどうかを見ることが興味深い、とAIが判断するかもしれないからだ」。クルーン氏は、こうしたシステムには人間の科学者に課しているのと同じ種類の倫理と監督が必要であり、場合によってはそれ以上が必要だと主張する。
より差し迫ったリスクは、量と粗雑さである。論文を生成するコストが数カ月の労働ではなく、数ドル分の計算資源で済むなら、査読システムは吸収できないほどの洪水に直面する。山田氏は、学会や科学誌がAI利用の開示を求め始めていると指摘したが、規範はまさにリアルタイムで構築されており、合意の見通しは立っていない。
さらに、徒弟訓練の問題がある。若手科学者を育てる作業、すなわち実験設計、データ分析、結果の執筆が機械に委ねられるなら、次世代を生み出すパイプラインはひそかに壊れかねない。クルーン氏はこの状況を野球のマイナーリーグになぞらえた。機関は、AIが実作業を担う場合でも、訓練ポジションに資金を投じる必要があるかもしれない。「観客を集めるからではなく、いずれ彼らがヤンキー・スタジアムのスターになるからだ」。
この比喩は魅力的だが、脆弱でもある。野球チームがマイナーリーグに資金を投じるのは、すべての選手が潜在的な収益源だからである。大学は市場のない基礎研究を行っている。その資金の大部分は全米科学財団や国立衛生研究所のような政府機関によって賄われている。そして、その研究が経済的繁栄に多大な貢献をしているにもかかわらず、徒弟がもはや必要とされなくなったときに資金調達モデルがどう適応するのかを、誰も明確に示していない。
科学は何のためにあるのか
カリフォルニア大学バークレー校の環境科学教授、カール・ベッティガー氏は、より深い問題は、AI Scientistが当然視しているものが間違っている点にあると考えている。「設計に組み込まれているインフラの多くが、現在の科学のプロセス、つまり査読や論文執筆を中心にしている」と、彼は筆者に語った。「科学の困難な仕事そのものに向けられている部分が少なすぎる」。
これは、このプロジェクトに対する最も鋭い批判のように筆者には思える。そして、この批判はさらに深く切り込む。AI Scientistは機械学習研究のために構築されたものであり、そこはイノベーションが実際に積み重なっていく分野だからだ。コンピュータサイエンスでは、有用な成果はソフトウェアの依存関係になる。数千人の開発者がそれをインポートし、翌日にはその上に構築する。ほかの多くの科学では、有用な成果は引用になる。引用は修辞的だが、依存関係は機能的である。AI Scientistは論文生産を自動化する。しかし、論文が主要な成果物である分野において、科学の前進を妨げているボトルネックは論文ではない。
クルーン氏とベッティガー氏は、科学が何のためにあるのかについて見解を異にしている。クルーン氏はそれを功利主義的な計算として捉える。「今この瞬間にも、病院のストレッチャーの上で、がんや何か別の恐ろしい病気で子どもが死にゆくため、親がその子に別れを告げている」。研究の自動化によって病気をより早く治せるなら、そのトレードオフには価値があるという考えだ。ベッティガー氏はそれを人間の観点から捉える。「われわれが行っている最重要のことは、ほかの人間を育てることだ。そしてわれわれは時に、そのために科学をよりゆっくり行う。論文をよりゆっくり生み出すのだ」。
どちらも正しい。そして、両者が正しいことは、この緊張関係を解消しない。AI Scientistには守るべきキャリアがなく、失敗した実験を隠すインセンティブもない。一方で、結果に対する利害も持たず、なぜその結果が重要なのかを学生に教える術もない。ベッティガー氏はこう述べた。「研究におけるAIの未来は、われわれ研究コミュニティ自身によって築かれる」。ツールはすでにここにある。問題は、科学者が次に来るものを形づくるのか、それともそれによって形づくられるのかである。
