1社では守りきれないという認識で、業界横断の協力を打ち出す
OpenAIやAnthropicなどのフロンティアAIラボは、「Trusted Access for Cyber」や「Project Glasswing」といった取り組みを通じ、外部の組織と連携しながら専有モデルで重要システムを守ってきた。エヌビディアの構想はこれとは異なり、オープンなツールでソフトウェアを守ることに照準を合わせる。
「AIの安全性を自社だけで確保できる企業は1つもない。Open Secure AI Allianceにテクノロジー提供企業・研究者・政府・サイバーセキュリティ専門家が集まっているのは、これが業界全体で協力して解決しなければならない課題だからだ」。そう筆者にメールで語ったのは、サイバーセキュリティ専門家の会員組織であるISC2のCEO、スコット・ビールだ。
「OpenAI、Anthropic、グーグルはこのアライアンスに参加していない。それこそが、この取り組みの本質を物語っている。エージェントの権限や挙動を統制する防御の層を、企業は閉じた3社から調達しなくてよい。このアライアンスはそう訴えている」。AIエージェントのセキュリティを手掛ける新興企業、Capsule Securityの共同創業者兼CTO、リダン・ハズートはメールで筆者に語った。
ハズートは、タイミングが重要だとも付け加えた。ハギングフェイスは「最後の事例にはならない」とし、「今後1年で、より多くの暴走エージェントの事例が出てくると見込むべきだ」と示唆した。ハズートの見立てでは、こうしたインシデントはいずれもフォレンジックの問題に行き着き、その調査を担う者は、自ら運用できるモデルを求めることになる。
参加企業は、防御用ツールの公開をすでに打ち出している
アライアンスの発表直前、フアンはオープンウェイトモデルを支持する公開書簡に署名していた。この書簡は、米政府に「正当なモデル開発手法と不正流用を混同しない」よう求めるもので、Claude Fableを蒸留したとされるMoonshot AIへの疑惑を念頭に置いている。Open Secure AI Allianceは、中国のAI企業に対する制裁へに抵抗する動きが生まれうることを浮き彫りにしている。
現段階で、現段階で、アライアンスに参加する組織は、その活動を支える成果物を相次いで公開している。たとえばエヌビディアは、エージェントハーネス向けにAI安全機能をより利用しやすくするため、Nvidia Labs Object-Oriented Agent（NOOA）をGitHubで公開した。
同じくHPEは、ゼロトラスト型のID基盤の標準を定め、AIエージェントやサービスを暗号技術で検証できるSPIFFE/SPIREを提供した。
マイクロソフトは、特化型のAIエージェントを組み合わせて脆弱性を発見する、複数モデル対応のエージェント型スキャニングハーネスMDASHを提供。
マイクロソフトは、脆弱性を発見するために専門化されたAIエージェントをオーケストレートするマルチモデルのエージェント型スキャンハーネスであるMDASHを提供。スペースXAIはターミナルで動くコーディングエージェント「Grok Build」をオープンソース化した。
「このアライアンスは力強い出発点だ。防御側がAIを活用した脅威に対抗するためには、能力が高く、中身を検証できるAIを使えなければならないという基本的な真実を踏まえているからだ」。脅威検知プロバイダーExabeamのCISO、ケビン・カークウッドはメールで筆者に語った。「オープンモデル、共有データセット、評価フレームワーク、防御ツールは、脅威の発見から検知と対応までの時間を短縮できる」。
AIセキュリティベンダーMindgardの創業者兼CSO、ピーター・ギャラハンはメールで筆者に、「これは正しい判断だ。長い目で見て、隠すことで守るやり方がうまくいったためしはない。それは防御側の仕事を格段に難しくするだけだ。相手は、技術を使うことに道徳面でも法律面でもためらいの少ない攻撃者なのだ」と語った。
目を向けておくべき限界
ただし、目を向けておくべき限界もある。最も顕著なのは、OpenAIとAnthropicが不在であることだ。カークウッドはこう警告した。「より幅広い参加と、より明確な説明責任がなければ、今回の取り組みは不完全なままにとどまる。主要なフロンティアモデルの開発企業が同じテーブルに着く必要があるし、エージェントが与えられた権限の範囲を超えたときの責任について、業界として合意されたルールが要る。優れたツールは、防御側がダークAIと戦う助けになる。優れたガバナンスは、防御ツールそのものが問題の一部になることを防ぐ」。
