データを増やせば万事解決か、専門のモデルが汎用型に勝つか
パネリストのスコット・クラークは、計算科学の研究を支援するAIエージェントの仕組みを開発するTalaria Scientific（タラリア・サイエンティフィック）を率いる。クラークは、AIの時代に科学者が今考えなければならない、役割をめぐる重いテーマに触れた。
「2つの考え方の間に、緊張関係があると思います。1つは「苦い教訓」（bitter lesson）で……データを増やせば、どんな問題も解決するという考え方です。自然言語処理やコンピュータービジョン（画像認識）では、もう特徴量エンジニアリング（データのどこに注目すべきかを人間があらかじめ設計する作業）をする必要はありません」。
「ところが一方で、「ノーフリーランチ定理」（no free lunch theorem）という考え方もあります。対象について、よりよい事前の知識を持つ専門のモデルなら、汎用のモデルに勝てるというものです」。
今ある実験室に合わせた開発は逆、変えるべきは実験の進め方
パネルでは、エージェント型のシステムをめぐるトレードオフについても話し合われた。
「やるべきなのは、今ある実験室に合わせて動けるAIを作ることだ。多くの人がそう主張していました」とビルスキは言う。
「でも、時間がたって、私たちの考えが正しかったことがはっきりしたと思います。逆であるべきだったのです。計算の側で実現できたことに合わせて、実験のやり方のほうを変えていくべきでした。その逆ではありません」。
実験設計からロボットを動かす手順まで、研究者の手作業を減らせないか
パネリストのニック・エドワーズは、科学者が手法を調べ、実験手順を組み立てるのを助けるAIソフトウェアを開発する新興企業、Potato（ポテト）のCEOである。エドワーズはこう語った。
「実験の最初の設計と、それをロボットが動かせる形に落とし込む作業に、AIを使えないでしょうか。というのも、ふつうはこれを科学者が手作業でやっているからです。科学者はそれをエンジニアに引き継ぎ、エンジニアが装置で動かすためのスクリプトを書かなければなりません」。
「ですから、こうした一連の作業の流れを、ツールにしっかり組み込むことが大切です。現在は人間がそのツールを使って作業を速め、やり直しの回数を減らし、1回りにかかる時間を縮める。その上で、先ほどお話にあったようなエージェントも、同じツールを使えるようにするのです」。
精度の低い推定を数多く重ねて広く探り、高価なシステムは後で使う
ここでクラークが持ち出したのは、機械学習でいう「探索と活用」（exploration versus exploitation）の兼ね合いである。まだよく分かっていない可能性を広く試すか、有望だと分かっている選択肢に絞って成果を取りにいくかという問題だ。
「根本的には、私たちも同じようなトレードオフに数多く直面しました」とクラークは付け加えた。「探索と活用の問題があります」。
「そして、探索の段階では、精度の低い推定器（データから値を推し量るモデル）を数多く使うほうが、かえってうまくいくことが分かってきました。探っている範囲の全体像や、その背後にある仕組みについて、できるだけ多くを学べるからです。その上で、非常に費用のかかるシステムを使って、学んだことを活用するのです」。
