AIエージェントは間もなく、企業ITの実験段階から主流へと移行する。マイクロソフトやグーグルから、潤沢な資金を持つスタートアップ企業に至るまで、主要プレーヤー全体で初期の兆候が見られる。多くのセキュリティ専門家は依然としてAIを主にチャットボットとして捉えているが、これは危険な盲点である。
私はこの40年間、テクノロジー業界を取材し、メインフレームからPC、クライアント・サーバーからクラウドに至るまで、主要なプラットフォームのそれぞれが登場するのを見てきた。それぞれが新たな機会、新たな課題、新たなリスクをもたらした。エージェント型AIで到来しようとしているものは、その中で最も重要なものかもしれず、セキュリティへの影響は企業が見過ごすわけにはいかないものである。
情報を取得して表示するだけのチャットボットとは異なり、エージェントはアクションを実行し、データを変更し、他のエージェントと相互作用し、複雑な機能を開始することができる。誤動作するエージェントの潜在的な影響は、チャットボットのそれをはるかに上回る。
これは根本的に異なるセキュリティ問題である
エージェント型AIの重要な問題は、エージェント間の相互作用が、個人デバイス、サーバー、クラウドサービスのいずれであれ、特定のデバイスの境界内にとどまらないことである。これらの相互作用はミリ秒単位で発生し、自律的に、そしてこれらすべての境界を横断する可能性がある。従来のセキュリティアーキテクチャは、これに対処するように設計されたことは一度もない。
ネットワークは、エージェント型AIセキュリティの制御プレーンとして浮上しつつある。これは、自律型エージェントが動作する環境への完全な可視性を提供する唯一のレイヤーである。セキュリティチームは、これらのエージェントが何をしているのか、どこに移動しているのか、どのシステムに触れているのかについて、リアルタイムの洞察を必要としている――何か問題が起きた後の事後分析ではなく。
これには、アイデンティティ・アクセス管理の根本的な再考が必要である。現在のIAMモデルは人間向けに設計されているが、エージェントは異なる課題を提示する。エージェントには、動的であるだけでなく、エージェントが誰であるか、何を行う権限があるか、誰と、どのような文脈で行うかを理解できる認証システムが必要である。これは人間以外の労働力のためのIAMであり、多くの組織では間もなく人間の労働力を上回る可能性がある。
脅威は外部だけではない
もう1つの見過ごされがちなリスクは、内部の脅威から生じる。意図された範囲を超えて動作したり、許可されていないリソース上で実行されたりする、不適切に設計されたエージェントは、深刻な危険をもたらす可能性がある。同様に懸念されるのは、エージェントのハイジャックである――悪意のある行為者が正当なエージェントの制御を奪ったり、有害なエージェントをワークフローに忍び込ませたりする場合である。マルチエージェント環境では、プロセスのあらゆる段階で信頼が損なわれる可能性がある。
これを正しく行う企業は、エージェントアーキテクチャに最初から観測可能性と保護を組み込み、後から追加するのではない。それには、リアルタイムの行動監視、ネットワークレベルのアクセス制御、そしてエージェントが何をできて何をできないかを明確に定義するガバナンスフレームワークが必要である。
結論
セキュリティは組み込まれなければならず、後付けではいけない。特にエージェント型AIにおいてはそうである。エージェントセキュリティを後回しにする組織は、深刻なリスクを招くことになる。可視性、アイデンティティ、ネットワークセキュリティに今日投資する組織は、エージェント型AIの生産性向上の恩恵を享受する最良の立場に立つことになる――セキュリティにおける壊滅的なコストを被ることなく。
開示：マイクロソフトとグーグルは、私が設立した企業であるクリエイティブ・ストラテジーズの調査レポートを購読しており、世界中の他の多くのハイテク企業も同様である。
