業界はこの2年間、AIのハルシネーション（幻覚）、バイアス、誤用に焦点を当ててきた。しかし、次の章を定義する障害モードは、これらではない。
真の問題はアーキテクチャにある。既存の企業向け制御システムは、すべてこのような動作をしないシステムを前提に構築されている。
何が変わったのか
企業向けITは、この20年間で最も速いペースで進化している。エージェントプラットフォームは成熟しつつある。新しいプロトコルにより、エージェントはベンダーを超えてツールを呼び出し、互いに呼び出し合うことができる。推論モデルは、単一のエージェントが計画・実行できる範囲を引き上げ続けている。
現在出現しつつあるスタックは、我々が運用方法を知っているものとは異なる。エージェントがエージェントを呼び出し、ワークフローは複数のモデルとアイデンティティにまたがり、自律性はあらゆる層で高まっている。
この状況に加速するデータ量を加えると、その結果は構造的なものとなる。企業向けAIシステムができることの数と、問題が発生する可能性のある方法の数は、どちらも桁違いに増加した。これは段階的な変化ではない。異なる種類のシステムなのだ。
これを支える資本は、その曲線を裏付けている。Anthropic（アンソロピック）は、年間換算売上高10億ドルから300億ドル超へ、わずか15カ月で成長した。グーグルは、最大400億ドルの追加投資を約束している。これらは企業向けソフトウェア史上最大規模のインフラ投資であり、すべて同じアーキテクチャを目指している。
従来型のレジリエンスが通用しない理由
従来の企業向けシステムは予測可能だった。依存関係を宣言し、コードを書き、システムができることを把握していた。なぜなら、誰かがその全ての部分を設計していたからだ。バックアップとポイントインタイム・リカバリは、その世界のために構築された。定義されたアーティファクトをスケジュールに従ってキャプチャする。システムが実行時に独自の依存関係を構成する場合、両方の前提が崩れる。
エージェントグラフを通じて伝播するのは、エラーだけではない。サイバー攻撃や悪意ある活動──侵害された認証情報、プロンプトインジェクション、汚染されたツール出力、本来持つべきでないアイデンティティの代理として行動するエージェント──も伝播する。いずれもローカルにとどまらない。マシン速度でグラフを移動し、触れるもの全てを変更する。
誰かが気づく頃には、影響範囲はデータ、モデル、設定、そして不正な出力を消費した下流のエージェントにまで及んでいる。まず理解できないものは、回復できない。レジリエンスには今や、その影響グラフをマッピングし、システムが動作する速度で自動的に対応し、スケジュールではなく継続的に運用することが求められる。
アーキテクチャ自体も、バックアップが想定していたよりも複雑だ。状態、設定、アイデンティティ、メモリ、ツールの配線、エージェント間の接続は、すべてシステムの一部だ。ナレッジベースを回復しても、その上で動作するエージェントがミッションクリティカルであれば、ビジネスは回復しない。コンポーネントは、互いの関係においてのみ意味を持つ。
何か問題が発生した場合、障害発生時にシステムが実際にどのような状態だったかを、誰も再構築できない。モデルのバージョン、データ、ツールの設定、エージェントのメモリ、アイデンティティのコンテキスト──これらすべてが異なる場所に存在し、異なる頻度でキャプチャされ、多くの場合異なるチームが所有している。
各部分は無傷かもしれない。しかし、システム全体は回復不可能だ。なぜなら、システムとしてキャプチャされたことがないからだ。
ガバナンスデータは、この脆弱性を反映している。ガートナーは、不適切なリスク管理により、2027年末までにエージェント型AIプロジェクトの40%超がキャンセルされると予測している。組織の35%は、必要な場合でも暴走エージェントを停止できないと述べている。
ResOpsとAIのシステム・オブ・レコード
アーキテクチャがこれほど動的な場合、レジリエンスはプラットフォームの側面に取り付けられる機能ではあり得ない。運用モデルそのものでなければならない。そのためには、従来のバックアップが提供するように設計されたものとは異なる一連の特性が必要だ。
第一は、コンポーネントレベルのスナップショットではなく、関係性のキャプチャだ。ある時点におけるモデル、データ、設定、エージェント間の関係性こそが、システムの唯一の一貫した表現だ。それ以下のものは、もはや組み合わせることのできない断片を生み出す。
第二は、継続的かつ自動化された運用──人間が定義したスケジュールではなく、システム自体のテンポで動作することだ。1時間ごとに取得されるスナップショットは、その間に起こったすべてを見逃す。
第三は、アイデンティティの認識だ。すべてのエージェントアクションはアイデンティティの代理として実行され、何か問題が発生した場合、アイデンティティは最初の質問であり答えでもある。誰がこれを承認したのか、認証情報は侵害されたのか、エージェントは権限外で行動したのか、そして重要なことに、損害を引き起こしたアクターの痕跡が残っていない、どの状態に回復すべきか。
エージェント型の世界では、アイデンティティなしの回復は回復ではない。それは未知のシステムの復元だ。
これがResOpsだ。ベースラインを想定するのではなく、外部で構築・維持しなければならないシステムのために設計された、継続的で自動化された規律としてのレジリエンスである。
すべての主要な企業向けプラットフォーム──財務のためのERP、顧客のためのCRM、サービスのためのITSM──は、その領域の権威ある記録となることで成熟した。AIには今日、それに相当するものがない。レジリエンス層こそが、その記録が構築される場所だ。
我々はそれを構築できる。なぜなら、企業全体のあらゆるビット、バイト、設定変更をすでに把握しているからだ。今この層に投資する企業は、本番環境で大規模にAIを運用する能力を持つことになる。それ以外の企業は、説明できず、監査できず、回復できない何かを運用することになる。
Commvault（コムボールト）からのその他の情報：
