460超の標的を狙った自律型攻撃、防御側モデルも登場
今回の発表に重みを与えたのは、直前に相次いだ出来事だ。7月30日、パロアルトネットワークスの脅威調査部門Unit 42が、自律性の高い攻撃キャンペーンを記録として報告した。単独の攻撃者が460を超える標的を狙い、かつてはチームを要した偵察や脆弱性の悪用（エクスプロイト）作業をAIエージェントに担わせていた。
その3日前にあたる7月27日、マイクロソフトが自社で初めて手がけたサイバーセキュリティ専用モデル「MAI-Cyber-1-Flash」を発表した。アクティブパラメーター数50億とされる特化型モデルで、防御業務のために汎用フロンティアモデルを借りるだけではもはや足りないという判断から生まれた。
7月27日から8月7日までの12日間に、3つの出来事が重なった。AIエージェントによる自律型攻撃が実際に観測され、ハイパースケーラー（超大規模クラウド事業者）が防御専門モデルを自社開発し、フロンティアモデル開発企業が初のクリティカル級サイバー能力を申告した。セキュリティ製品の買い手が机上の想定シナリオとして扱ってきた脅威に、独立した3方向から日付入りの証拠が付いた。
OpenAIの管理策一覧は、企業がいずれ直面する「課題と新たな製品分野」を映す
今回の発表で最も面白みに欠けるのは、一時停止そのものだ。経済的な意味はむしろ管理策の一覧に詰まっている。重みの暗号化、サンドボックス実行、エージェント挙動をリアルタイムで見張る監視、作業途中でエージェントを止める中断システム。OpenAIは、有能なAIエージェントを封じ込めるには何が必要かを示す実用的な参照設計を公開したに等しい。同じ問題は規模こそ小さいものの、有能なエージェントを実運用に組み込むあらゆる組織に降りかかる。そして、それを解決するツール群は、新たな製品分野として目の前で形になりつつある。
OpenAI自身も投稿でそれを認めている。「能力面で起こり得るこの変化」について、一般社会と安全・セキュリティの両コミュニティーに対して透明であることが重要だと記した。プリペアドネス・フレームワークがAIモデルの能力を段階に分けているのには理由がある。そしてOpenAIがこの規定を作って以来初めて、最上位のクリティカルが実際に問われる局面になった。
攻撃能力は防御にも使える──マイクロソフトは先に動いた
クリティカル級とされる能力は、攻撃と防御の双方に働く。ゼロデイを単独で発見できるシステムは、防御側のために先回りして見つけることもできる。OpenAIは、自社の封じ込め作業から導いた推奨管理策を第三者評価機関に提供し、政府機関とは能力検証で連携すると表明した。攻撃がしきい値に達したという事実は、同じ能力の防御版に資金を投じるべきだという、これまでで最も強力な論拠にもなっている。マイクロソフトはAstraのニュースが出る前にその結論へたどり着いていた。他社を待たず自前のサイバーモデルを作ったのは、そのためだ。
