政府という組織は熟議を行うように作られており、それには時間がかかる。その一方で、最先端AIは全く異なる時間軸で動いており、毎週のように新モデルの公開、ベンチマークの向上、そして新たなエージェント機能の刷新が続いている。規制当局が会計年度の単位で動くのに対し、AIラボは今や週単位で動いているのだ。
ビジネスインサイダーの報道によれば、ホワイトハウスとAnthropicは現在、新モデルのセキュリティ上の欠陥がどの程度深刻かを判定し、政府が介入すべき水準を決めるための枠組みを協議している（編注：米国時間6月26日、米政府がAnthropicに対し、同社の高性能AIモデル「Mythos 5」を一部の企業・組織に限定的に提供することを認めたと報じられた）。Fable 5の一件でそうしたルールが必要となった時点では、ルールは存在しておらず、今になってようやく草案が作られているところである。
DeepMindの論文は、AGIから超知能への飛躍が起こりうる4つの経路を示している。これらは互いに排他的ではない。第1に、より多くの計算資源（コンピュート）とデータをより大規模なモデルに投入する、これまでの延長線上の拡張。第2に、本格的なアルゴリズム上の転換。第3に、AI自身がAI研究の作業を担う再帰的自己改善。そして第4に、調整し合うエージェントの大規模な集団が、単体のシステムを超える総合的な能力を持つに至る経路である。これらのいずれかがすでに進行している可能性もあり、複数が同時並行で進んでいる可能性もある。
最後の経路は、現行の規制手法に最も大きな負荷をかける。現状の規制は、技術がいったん落ち着くのを待ってからその影響を調査し、それに合わせてルールを書くというものだ。だが AI は落ち着いていない。それどころか、AI 自身が次のバージョンを生み出すための材料として、ますます使われるようになっている。
公正を期していえば、Google DeepMindの著者らは過剰な売り込みを避けている。超知能を不可避とも目前に迫っているとも論じておらず、立ちはだかる障害も列挙している。データの不足、膨張するリソースコスト、今日のニューラルネットワーク手法が行き詰まる可能性、最先端研究そのものの難しさ、そして機械が生の経験から真に新しい概念を形成することの難しさである。規制と世間の反発も、技術進展の摩擦要因として挙げられている。だが摩擦が技術を減速させるのは、それを適用する側の制度が技術と同じ速度で動ける場合に限られる。そして Fable 5の一件は、制度の側がまだその速度に達していないことを示している。
未解決の問いは残されたままだ。誰かに API（アプリケーション・プログラミング・インターフェース）アクセスを与えることが、どの時点で「輸出」とみなされるのか。ある週には通常のバグと見なされていたジェイルブレイク（脱獄）が、翌週には国家安全保障上の事案と映ることがあるが、その境界線がどこにあるかについて合意はない。あるモデルが市場に出すには高性能すぎるということを、誰が、どのような根拠──重み（ウェイト）、計算資源、サイバー能力やバイオ分野のスコア、利用者、稼働場所──に基づいて判断するのか。
