Acuvity CEOのサティヤム・シンハ氏。
AIはあらゆる場所に存在している。この現実は、業界がまだ完全に把握していない方法でサイバーセキュリティを変化させている。AIはサイバーセキュリティが守るために設計された境界を溶解させる。すべてがあらゆる場所に、常に存在するのだ。
長年にわたり、セキュリティは定義された境界内で運用されてきた。エンドポイントはユーザー認証とデバイス制御を通じて管理され、ネットワークは検査されたパスを通じて予測可能なトラフィックを移動させ、アプリケーションは既知の依存関係を持つ固定環境で実行されていた。ベンダーエコシステムはそれらの個別のレイヤーを保護するために構築されていた。
AIはかつてそれらのレイヤーを区別していた境界を取り除く。現在、単一の相互作用があらゆるレイヤーを横断する可能性がある：ラップトップ上のコーディングアシスタントが外部モデルを呼び出し、内部データを照会し、本番環境に移行するコードを生成することができる。
誰も認めたくない問題
顧客はベンダーによって、AIセキュリティが対応済みだと主張されガスライティングされている。数多くのセキュリティおよびIT責任者が私に語るのは、誰かがOpenAIにアクセスしたことは特定できるが、そのアクセスがユーザー自身によるものなのか、ユーザーに代わって行動するエージェントによるものなのかを区別できないということだ。彼らは信頼されたバイナリとGitHubからダウンロードされたものを区別できない。そのエージェントがそれらの認証情報を信頼されるべきだったかどうかを判断できない。
この帰属のギャップは、古いモデルがいかに完全に崩壊したかを明らかにしている。あなたのエンドポイントはあなたのものだった。今はあなたとあなたのエージェントのものだ。誰が何をしているのか、どこでそれを行っているのか、そしてそれらがどのように接続しているのかを理解する必要がある。
この課題の規模は膨大だ。従業員はウェブブラウザを通じてChatGPTやClaudeを使用し、エディタプラグインとしてコーディングアシスタントをインストールし、デスクトップAIアプリケーションを実行し、SaaSツールに組み込まれたAI機能と対話している。それぞれの接続が従来のセキュリティ制御をバイパスする潜在的なデータフローを生み出す。組織はこの現実のために設計された可視性やガバナンスメカニズムなしに、あらゆる形態にわたる大規模なAIの拡散に直面している。
セキュリティサイロの終焉
サイバーセキュリティの歴史上初めて、エンドポイントとネットワークセキュリティはもはや孤立して運用することができなくなった。かつての分割は各ドメインが独立して動作していた時には理にかなっていた：エンドポイントはローカル活動を管理し、ネットワークはトラフィックを制御し、データ保護ツールは移動中のコンテンツを処理していた。AIはこれらの境界を崩壊させる。
現在、単一のAIクエリがすべてのレイヤーを横断することができる。例えば、ラップトップから発信し、企業ネットワークを通過し、クラウドモデルを呼び出し、内部データベースにアクセスし、合成データを他のシステムに返すといった具合だ。各セキュリティツールはこの相互作用の断片を見るが、完全なコンテキストを再構築することはできない。かつての専門化が断片化になってしまった。
従来の製品は依然として狭い領域では優れているが、AI相互作用の内部で何が起こっているかを解釈することはできない。DLPツールはファイル転送を検出できるが、同じ機密データを含む自然言語プロンプトは検出できない。エンドポイント検出は新しいプロセスにフラグを立てることはできるが、エージェントのリクエストが許可されていたかどうかを判断することはできない。ネットワークモニタリングは宛先をトレースできるが、意図やポリシーの整合性は判断できない。
これらのブラインドスポットはより深いアーキテクチャの欠陥を露呈している。AIは古いベンダーエコシステムの境界を溶解させ、相互運用するように設計されていなかったドメイン間の収束を強制する。
スピードの問題
以前の技術シフトではセキュリティチームが適応する時間があった。クラウド導入は予測可能な企業サイクルに従い、モバイルデバイス管理は何年もかけて進化し、SaaSセキュリティは保護するツールと並行して成熟した。
AIは圧縮されたスピードで動く。従業員はMicrosoft Office、Slack、開発環境などの馴染みのある製品のAI強化版を使用し、ポリシーが作成されるよりも速く新しい攻撃経路を導入するアップデートが行われる。
AIはセキュリティチームが気付く前に環境に入り込むことが多い。マーケティングはコンテンツプラットフォームで新機能を発見し、開発者はエディタでコーディングアシスタントを見つけ、財務部門はスプレッドシートで分析ツールに遭遇する。それぞれの追加は調達とガバナンスをバイパスする。
組織はエコシステムが安定するのを待ってからガバナンスを実装することはできない。緩やかな業界調整によって形作られた以前の変革とは異なり、AIリスクは集団的防御が形成されるよりも速く出現する。
アーキテクチャの課題
セキュリティリーダーは、古い境界がもはや防御のための有意義な構造を提供しないことを受け入れなければならない。エンドポイントセキュリティベンダーはネットワークコンテキストなしにAIリスクを解決することはできない。ネットワークセキュリティ企業はエンドポイントの動作を理解せずにAI脅威に対処することはできない。データ保護ツールはモデルの動作とエージェントの活動を理解せずにAI相互作用を保護することはできない。
この収束要件はベンダーエコシステム全体に圧力をかける。ドメイン専門知識を中心にビジネスを構築した企業は、すべてのドメインに同時にまたがる脅威に直面している。市場の反応は予測可能だった：既存のベンダーは既存の製品にAI関連機能を追加し、これらの追加を包括的なソリューションとして市場に投入している。
しかし、AIリスクに対処するためにレガシーアーキテクチャを改造することは本質的なポイントを見逃している。AIは動的で自己増殖する行動を導入し、それはデータ、モデル、エージェントの各レイヤーにわたるランタイム検査と実施を要求し、システムが進化しても制御が一貫性を保つことを確保する運用ガバナンスによってサポートされる必要がある。
セキュリティリーダーにとっての意味
この変革は、人間のユーザーと委任された権限で動作する自律システムの両方を考慮した、アイデンティティ、帰属性、制御に対する新たなアプローチを要求している。定義されたリソースへのアクセスを制御することを中心に構築されたセキュリティ戦略は、AIエージェントが複数のドメインにわたって情報に自律的にアクセス、処理、行動できる場合には不十分になる。
このシフトを認識する組織は、AI時代に適したセキュリティアーキテクチャを構築するだろう。AIリスクに対処するために既存のアプローチを改造しようとする組織は、従来のセキュリティが適応できるよりも速く進化する脅威に常に遅れをとることになるだろう。
先見の明のある組織はすでにこれらの能力を構築している。ランタイム検査と実施はAIシステムが行動する際にリアルタイムのポリシー制御を提供し、運用ガバナンスは企業セキュリティが現在必要とする監視、監査可能性、説明責任のフレームワークを確立する。これらが一緒になって、AIネイティブ防御の基盤を形成する。
古いサイバーセキュリティモデルは、攻撃対象領域を個別の制御可能なドメインにマッピングできると想定していた。AIはあらゆる場所に同時に存在する攻撃対象領域を作り出すことで、この前提を時代遅れにする。セキュリティリーダーがこの現実を認識するのが早ければ早いほど、組織が必要とする統合された防御の構築を開始できる。
これはインターネットの出現以来、サイバーセキュリティにおける最も重要なシフトを表している。問題はAIがセキュリティに対する考え方を変えるかどうかではない。それはすでに変えている。問題は、セキュリティリーダーが現在の防御が保護するために構築されたあらゆる境界を超えるリスクの先を行くために十分に迅速に適応できるかどうかだ。
