先月、あるセキュリティ責任者に尋ねた。もし自社が展開しているAIエージェントのひとつが、午前2時にやってはいけないこと――取得する権限のないデータを引き出したり、誰も承認していないシステム変更を実行したり――をしたら、どうなるのかと。
彼女は答えを持ち合わせていなかった。だが、それは彼女のチームへの批判ではない。ほとんどの組織には、明確に定義されたAIガバナンスプログラムがない。実際、525人のガバナンス専門家を対象にしたSchellmanの調査では、自社のAIガバナンスプログラムが十分に成熟していると答えたのはわずか27%だった。
エージェントは1つのアイデンティティである
ここ数年のどこかで、「AIエージェント」はセキュリティのカテゴリーではなく、エンジニアリングプロジェクトのカテゴリーになった。チームはパイロットを立ち上げ、成果を測定し、取締役会に成功を報告した。だが、これらのチームのほとんどは、最初にアイデンティティに関する明確化の問いを投げかけなかった。つまり、この存在は何に触れることを許されており、誰がそれを監視しているのか、という問いである。
エージェントは認証を行い、認証情報を保持し、人間のタイミングではなく自らのスケジュールでシステム内で行動する。それはアイデンティティの定義そのものであり、そろそろ私たちはそれをアイデンティティとして扱い始めるべきだと考えている。
新入社員への対応を見ればよい。誰かがアクセスを申請し、マネージャーが承認し、その申請が記録され、やがてその社員が退職したり役割を変えたりしたときに、誰かがアクセス権を取り消すことを思い出す。遅く、粗雑ではあるが、少なくとも記録は残る。
エージェントはその大半を飛び越える。展開の目的がスピードにあるため、エージェントは迅速にプロビジョニングされる。本来パイロットのはずだったものの権限範囲を定めるためにスプリントを費やしたい人がいなかったため、広範で常時有効なアクセス権を引き継ぐことも多い。そして稼働し始めると、ほとんどのアイデンティティツールは、人間ではないアイデンティティがそのアクセス権を使って何をしているかをリアルタイムで監視するようには作られていない。
可視性の問題
私はこの25年間、新しいリスクの種類が現れるたびに新しいツールを継ぎ足すことで、アイデンティティプログラムが成熟していく様子を見てきた。ガバナンスプラットフォームはプロビジョニングを扱い、特権アクセスツールは管理者認証情報をロックダウンし、アクセス管理はログインを担った。それぞれが、それを中心に設計されたアイデンティティの種類、すなわち人間に関する現実の問題を解決した。
エージェントは同じモデルには当てはまらない。人間のアイデンティティはログインし、セッション内で作業し、ログオフする。エージェントは継続的に稼働し、自らAPIを呼び出し、誰かがダッシュボードを確認しようと思う瞬間と瞬間の間に、数十ものアクションを実行できる。検知戦略が人間のリズムを前提としているなら、環境内を移動するエージェントは通常のバックグラウンドノイズのように見える。そして通常には見えなくなった時点では、すでに行動を起こしている。
ここで、アイデンティティ脅威検知・対応（ITDR）がスタックの中で存在意義を発揮する。新たな継ぎ足しのツールやダッシュボードとしてではない。行動を監視するレイヤーとしてである。ITDRは、ガバナンスツールとは異なる問いを立てる。「このアクセスは承認されていたか」ではなく、「これはこのアイデンティティが通常行うことに見えるか」と問う。常時有効な権限を持ち、機械の速度で行動するエージェントに対しては、この行動を見る視点こそが、問題が見出しになる前に捉えるための唯一現実的な方法である。
今四半期に問うべき3つの質問
完全な棚卸しができていなくても始めることはできる。組織のアイデンティティまたはセキュリティプログラムを担っているなら、3つの質問への答えが、その成熟度を明らかにする助けになる。
1. 現在、自社環境で稼働しているすべてのエージェントと、それらが何に触れる権限を持っているかを挙げられるか。 私が話してきたセキュリティリーダーの多くは、それができない。彼らが遅れを取っているわけではない。エージェントが、アイデンティティ担当を巻き込まないエンジニアリングチームやプロダクトチームを通じて展開されただけなのである。
2. エージェントが本来の仕事をしている場合と、それ以外のことをしている場合を見分けられるか。 正直な答えが「いずれ気づくだろう」であるなら、それは検知のギャップを一文で言い表している。
3. エージェントが持ち場を外れて行動し始めた場合、どれだけ早くそのアクセス権を遮断できるか。 人間のプロビジョニング解除にはチケットと1日が必要だ。エージェントに依存しているワークフローを壊さずに、実行途中のエージェントをきれいに遮断することは、ほとんどのチームがまだ構築していない能力である。
展開のゲート
私は取締役会に対し、これをチェックリストではなくチェックポイントとして扱うよう伝え始めている。エージェントが本番環境に入る前に、誰かが3つのことに答えられなければならない。それを識別できるか、認証できるか、停止できるか。これらのいずれかに対する答えがノーであるなら、パイロットの結果がどれほど良くても、そのエージェントはまだ準備ができていない。
これは、私が現在協働している多くのチームが適用している基準より厳しい。だが同時に、攻撃者がすでに試している基準でもある。常時有効なアクセス権を持つ認証情報があり、誰も監視していない。これはまさに、間違った相手に最初に見つけられる種類の隙である。
自社環境ですでに稼働しているエージェントはなくならない。そして、より多くのエージェントをより速く展開せよという圧力もなくならない。この課題で先行するチームは、エージェントがまだ展開されている段階でガバナンスを組み込む。そうすれば、誰も監視していないエージェントが、後になって説明を迫られる対象になることはない。
Forbes Business Councilは、事業主やリーダーのための最高峰の成長・ネットワーキング組織である。参加資格はあるか
