米国政府がAIの進歩を遅らせることはないだろう。それならば、安全性の向上を加速させるという別の手段をとってはどうか。
中国とトランプ政権はそれぞれ、AI開発の加速を国家的な優先事項に掲げている。国際的な協調対応がなければ、米国企業のみに課される規制では、外国で開発されたAIによるマシンの異常行動を防ぐことはできない。すでに複数の事案が示しているように、AIエージェントは国家の国境を考慮しない。したがって、一方的に競争のスピードを落とすことが現実的でないとすれば、私たちは、知的なマシンが人間の意図に反する行動をとることを防ぐ解決策――研究者が「アライメント問題（AIを人間の意図に整列させる課題）」と呼ぶもの――を大急ぎで構築する必要があるかもしれない。最先端AIの発展を遅らせる、あるいは「ペースを調整する」ための規制を求める声が阻まれたとしても、打つ手はそれだけではない。ほかにも政策的な選択肢は存在する。代替となる政府の介入策としては、国家的なAIアライメントの研究開発（R&D）の取り組みを動員する、ミッション志向型のイノベーションプログラムが考えられる。これは、AIの能力開発のスピードに遅れをとることなく、AIの安全性とアライメントの問題を解決するための競争である。
不均衡
Anthropic（アンソロピック）のAIアライメント科学部門の責任者自身が、破滅的なリスクに対する懸念を公に表明し、アンソロピックは超知能AIのアライメントを解決する計画をまだ持っておらず、「軌道に乗っているとは明らかに言えない」と付け加えた。OpenAI（オープンAI）は最近、未公開のAIが、企業や政府に従わないことや、人間文明よりも自然界の「優位性」を優先することをためらわないよう自らに指示を書き込んでいたという、極めて稀だが懸念すべき事例を公表した。しかし、今後数年間でAIインフラに約7.6兆ドル（約1190兆円）の投資が見込まれているにもかかわらず、AIの安全性とアライメント研究への投資不足は明白であるように見える。アライメントに取り組む研究者の数を厳密に集計したデータは存在しないが、ある推計によると、2025年時点でAI安全性の分野に携わる技術研究者はわずか600人にすぎない。別の推計では、安全性に関する研究はAI研究全体の1％未満にとどまる可能性が示唆されている。リスクがこれほどまでに大きいのだとすれば、その対策の規模は不気味なほど小さく思える。
新たな連邦機関は不要かもしれない
2023年には、AI安全性のための米国版「マンハッタン計画」が提案された。また、2024年のエネルギー省AI法案は、連邦政府によるアライメントの研究開発（R&D）に資金を提供するものであったが、成立には至らなかった。さらに、英国主導の国際的なアライメントプロジェクトはすでに進行中であるが、AIの進化に対する投資額と比較すれば、称賛に値するものの極めて少額な投資にとどまっている。
「品質、スピード、コスト――選べるのは2つだけ」という古いルールを聞いたことがあるだろう。今必要なのは、品質とスピードだ。新しい機関や局を設立したり、議会が新たな授権法を可決するのを待ったりしている時間はないかもしれない。既存の国家AIイニシアチブ（National AI Initiative）には、連邦政府の投資を必要とするAI研究分野を優先順位付けする権限がすでに与えられている。政府はアライメント研究をより大きな国家的優先研究事項に指定し、利用可能なAI研究資金をそこに投入した上で、問題の規模に見合った予算を配分するよう議会に要請することができる。これにより、新しい機関を設立するための時間とコストを省きつつ、AIが経済や政府全体に浸透していくにつれて、単一のAI安全機関が最終的に広範な権限を握ることになるのではないかという懸念に対処できる可能性がある。
未知の事態に備える計画
「アライメントにもっと注意を払うべきではないか。その答えはイエスだ」と、法律・AI研究所（Institute for Law & AI）の米国法・政策担当マネージングディレクターであるマッケンジー・アーノルドは語る。「私たちが合意できる唯一のことは、誰もが本当に混乱しており、何が起こるか分かっていないということだ」。アーノルドは、不確実性の下でのガバナンス戦略として、「ラディカル・オプショナリティ（Radical Optionality）」と呼ばれるアプローチを強く主張してきた。AIの開発は特に予測が困難であるため、政策には、さまざまな起こり得る結果をシミュレーションし、新たなエビデンスが明らかになるにつれてリアルタイムで適応できる柔軟性が必要となる。「異なる前提に対しても堅牢である政策とはどのようなものか」とアーノルドは問いかける。AIの知性と能力の向上についていくために、アーノルドは政府がAIに特化した情報収集・対応能力を構築し、外部の監査人や評価機関を審査・契約できる十分な専門知識を内部で育成することを推奨している。これには、配備前監査のような要件よりもイノベーションへの負担が少ないポリシーが必要となる一方で、最先端AI（フロンティアAI）開発者からの情報収集（インシデントやヒヤリハットのより強力な報告、新たな能力に対する可視性など）を認可することになる。また、未知の事態が現実のものとなる前に、対応プロトコルを整備しておくことも意味する。
未知の課題を解決する
ラディカル・オプショナリティは、より上流の研究段階から始めることができる。アライメントを解決する方法がまだ分かっていないのであれば、それがどのような問題であるかをすでに理解していると仮定することもできない。主要なアプローチのほとんどは技術的および工学的なものであり、国家的な取り組みとして多額の投資を行い、徹底的に追究する価値がある。しかし、研究者たちが、知性を構築しているというよりも「育てている」のだと語り、現在のAIシステムの一部がブラックボックス化していると指摘する中、問題の本質自体が不確実であることこそが、現在は見えていない解決策をもたらすかもしれない非従来型の研究アプローチを時期尚早に排除すべきではない理由となる。人間よりも賢くなる知性をコントロールすることが本当に不可能であるならば、なおさらである。アライメントには、管理・制御を目的としない解決策が必要になるかもしれない。国家的なアライメントの取り組みは、競合する技術的アプローチに資金を提供する一方で、確立されてはいないものの理論的に妥当な、ハイリスク・ハイリターンの研究にも資金を配分することができる。政策立案者がこのリスクをどのように評価すべきかについて、アーノルドは次のように助言する。「懐疑的な態度を持ちつつも、頭から否定しないことだ。これらのどれもが、常軌を逸して信じがたいことや、範囲外の出来事というわけではないのだから」
