先日開催された「イマジネーション・イン・アクション（IIA）」のイベント「The Next Endeavor」で最も印象的だった対談の一つが、ここで紹介するまでもないダニエラ・ルスと、カリフォルニア大学バークレー校（UCバークレー）の教授であり、データブリックス（Databricks）およびエニスケール（Anyscale）の共同創業者であるイオン・ストイカによるセッションだ。
まず、少し背景を説明しておこう。「The Next Endeavor」は9月14日と15日、カリフォルニア州マウンテンビューにあるグーグル・ベイビュー（Google Bay View）で、IIAがスタンフォード大学の人工知能研究所（HAI）と共同で開催したものだ（免責事項：筆者はこのイベントの主要な主催者の一人である）。カンファレンスには多くの参加者が集まり、主要な講演者たちが、現在のテクノロジーと人類の立ち位置について多くの知見を共有した。
ルスは本コラムの読者にはお馴染みの存在だが、マサチューセッツ工科大学（MIT）のコンピュータ科学・人工知能研究所（CSAIL）を率いており、筆者も関わっている「リキッドAI（Liquid AI）」モデルの研究に取り組んでいる。彼女は筆者の友人であり同僚でもある。今回のセッションを紹介し、この2人の専門家がAIについて熱く語るのを聴くのは非常に楽しい経験だった。
ルスはストイカに対し、コンピュータが「エージェンティック（自律的）AI」の時代に自信を持って対応する上で、何が障害として残っているのかを問いかけた。
未来の構築
議論の多くはインフラと、変化への対応の最善策に関するものだった。
「何が変わり、なぜ事態が困難になるのかが、時には明確ではないこともある」とストイカは指摘し、アルゴリズムの進化を含む多くの重要なイノベーションはシステム側から推進されていると付け加えた。「（AIモデルの）トレーニング（学習）とインファレンス（推論）は非常にコストがかかり、現段階でも指数関数的に増大し続けている。そのため、効率性が極めて重要になる。そしてその効率性を得るためには、スタックのあらゆるレイヤーでイノベーションを起こす必要がある」
大きな課題
「注目すべき点の一つは、メモリ（記憶装置）だと思う」とストイカは言う。「なぜメモリなのか。それは、1ビットの情報を保存するためには、今でも1つのトランジスタが必要だからだ。ここでできることはあまりない。トランジスタを小さくすることはできても、この1対1のマッピング（対応関係）は変わらない」
ストイカが挙げたもう一つの課題は、従来のシステムのモジュール設計に関するものだ。
「演算能力（コンピュート）はメモリ容量よりも速く成長する。そしておそらく、帯域幅（バンド幅）の向上によるスケールアップの方が容易なため、帯域幅もさらに速く成長するだろう」と彼は語る。「基本的にはメモリがますますボトルネックになっており、究極の効率性を追求するために、既存システムのレイヤー化やモジュール性といった従来の階層構造を打ち破る必要が出てきている」
AIがAIを改善する
その後の議論の中で、ストイカは再帰的な自己改善の脅威と、それに関連するアライメント（整合性）の課題についても言及した。
「目標の一つは、AIを使用してユーザーの意図に沿った、信頼性の高いアプリケーションやシステムを構築することであるべきだ」と彼は語った。「そしてこれは非常に、本当に難しい。なぜなら根本的に、何かを構築するときには多くの要件があり、展開環境の暗黙的または明示的なモデルが存在するからだ。そして、テストなどをクリアするまで反復（イテレーション）を繰り返し、その後にデプロイ（展開）する。しかし、ユーザーの意図とシステム要件との間、現実世界と構築したモデルとの間には根本的なギャップがあり、特に変化し続ける開かれた世界において、そのギャップを埋めることは極めて困難だ」
オンデバイスAI
ルスはストイカに対し、どのようなワークロードをクラウドで実行すべきで、何をローカルデバイスで実行すべきかを尋ねた。
ストイカは、エッジデバイス上でのローカルAIの実行が、プライバシーのギャップを埋めるのに役立つだろうと提案した。
「これらのギャップを埋めることができるかもしれない」と彼は述べた。
彼はまた、ビッグデータの時代を振り返り、Hadoop（ハドゥープ）や従来のクエリが、いかにして現在のより高速な手法へと移行していったかを説明した。ストイカはSQLに関連する処理技術であるSpark（スパーク）の開発に携わったが、SQLというデータベースプロトコルは、AI時代において急速に陳腐化しつつあるように思われる。
ロボットはどうなるのか？
「私たちはよく、10万台のロボットが走り回り、私たちのためにタスクをこなす未来について語る」とルスは述べ、フィジカル（物理的）AIに関する議論の舞台を整えた。「こうしたロボットは『オンデバイス機能』を持たなければならないが、物理的な知性を備え、現実世界で動作する膨大な数のマシン群を実際に運用するとなれば、私たちにはインフラが必要だ」
ストイカはハギングフェイス（Hugging Face）の事例や、報酬ハッキング（reward hacking）、ハルシネーション（幻覚）の脅威について語り、多くの場合、オペレーションを隔離し、前述のギャップに対処することが望ましいと示唆した。
「要件と人間の意図とのギャップ、あるいはモデルと現実世界（環境のモデルと現実世界）とのギャップを考えると、欠けているものがある。一部の要件が誤って提示されていたり、欠落していたりする。例えば、本来インターネットに接続すべきではないサンドボックスが、なぜか接続されているといったことだ」と彼は付け加えた。「人間向けにシステムを構築している限り、人間がそのループ（意思決定プロセス）の一部であり続ける。人間の意図を満たす必要があるからだ。しかし、人間自身がボトルネックになる可能性もある。私たちが確認すべきなのは、フィードバックを提供し、物事を絶えず改善するために、人間を最も効果的な方法でループに関与させることだ」
これは、実際には新しい問題ではないと彼は指摘する。ストイカは自身の発言を次のように締めくくった。
「フォーマルメソッド（形式手法）をスケールアップさせ、さらに強力なものにすることで、ギャップを埋めるよう試み、形式仕様の中で人間の意図や現実世界をより正確に捉えていくことになるだろう」
エージェンティックAIの導入を進めるにあたり、この明瞭さ（クリアさ）を求める姿勢は、記憶にとどめるべき極めて重要な点だと感じた。私たちはまだ準備ができていないかもしれない。しかし、私たちが直面している課題について熟考する時間を設けることで、いつの日か、より大きな自信を持って未来を迎えることができるはずだ。今後の展開に注目したい。
