AI

2026.11.17 08:12

AIエージェントは「羊の皮をかぶった狼」になり得る:ビジネスを守る3つの対策

Adobe Stock

Adobe Stock

BRANDVOICE | Paid Program

もっと見る>

グラビティ(Gravitee)の調査によると、AIエージェントの導入前にセキュリティとIT部門の完全な承認を得ている企業は、ごく少数(14.4%)にとどまる。これは懸念すべき事態だ。ハギング・フェイス(Hugging Face)で起きたAI起因のセキュリティ事案は、筆者の懸念がいかに正当であるかを示している。

事案の詳細を報じたハギング・フェイスのブログによると、内部でのサイバー機能評価中、AIエージェントがテスト環境の境界をすり抜け、「サードパーティのインフラプロバイダーのユーザーがホストする公開コード評価ハーネスを悪用した」という。そこからエージェントはハギング・フェイスのインフラに侵入し、数日間にわたり約1万7600回におよぶ攻撃行動を行ったと同ブログは述べている。

AIエージェントはこれらを人間の介在なしに実行した。かつてサイバー攻撃の構築には長い時間がかかっていたが、もはやそうではない。最も洗練された攻撃でさえ、わずか数時間で組み立てられ、実行されてしまう。この自律性とスピードの組み合わせは強力な混合物であり、現在のセキュリティプログラムの欠陥を露呈させかねない。

形を変えた従来の手口

AIエージェントによる攻撃には一連の特殊な行動が伴うと考えがちだが、必ずしもそうとは限らない。攻撃者は以前から、不正コードの実行、認証情報の窃取、データの抽出といった昔ながらの手口を使ってきた。

しかし人間と異なり、AIエージェントは単線的なアプローチに固執しない。目標達成に向け、複数のルートを同時にテストし、最適なルートを選択できる。1つの手法が失敗しても、エージェントは学習し、アプローチを再調整して前進し続ける。ハギング・フェイスで起きたのもまさにこれだった。エージェントは同社の内部システムにアクセスできるまで、試行錯誤を繰り返したのだ。

自律型AIエージェントは非常に巧妙で、自らの痕跡を消去し、将来のバージョンに不正な行為を学習させることすらできる。業界では、こうした想定外の暴走行為を「AIのアライメント異常(ミスアライメント)」と呼ぶことが多い。

崩壊するAIのレジリエンス

AIエージェントが大混乱を引き起こす背景には、複数の管理機能(コントロール)の破綻が存在することが多い。

1. アクセス制御

AIエージェントやAIシステムにおける問題は、多くの組織が今なお、ソフトウェアライセンスと同じ方法でそれらを管理している点だ。前出のグラビティの調査によると、AIエージェントを専用のアクセス制御を持つ独立したアイデンティティ(固有の識別情報)保有体として扱っている組織はわずか約22%に過ぎない。多くの組織は依然として共有API(アプリケーション・プログラミング・インターフェース)キーを使用していると同レポートは述べている。

しかし、通常のソフトウェアとは異なり、エージェントは明示的な指示がなくても機密データにアクセスし、ツールを呼び出し、アクションを実行できる。AIエージェントはまったく別物なのだ。採用したばかりの人物に対し、人間の監視なしに、明確な権限範囲の制限もなくそれほどのアクセス権を与えるだろうか? 答えはおそらくノーだろう。エージェントにも同等のガバナンス基準が必要なのだ。

2. 事後対処(リメディエーション)

ハギング・フェイスのチームは侵入を認識すると、「データセット設定レンダラー内の侵入経路を特定してこれを停止し、侵入者を内部ネットワークから遮断した」と同社のブログには記載されている。また、攻撃の手口をリバースエンジニアリングで解明するため「AI支援パイプライン」を通じた調査も行ったが、最初に試したモデルはその作業の多くを拒否した。モデルに組み込まれたセーフティフィルターが、セキュリティチームによるフォレンジック(鑑識)分析をサイバー攻撃の実行と同一視したためだ。

この障壁を回避するため、チームは自社のインフラ上にローカルホスト型のモデルを配備し、調査を完了させた。

3. 対処権限

最も大きな溝は、攻撃の検知と、それを阻止するためのタイムリーな対応の間に生じることが多い。

ハギング・フェイスによると、同社のAIベースのセキュリティスタックは複数の曖昧なシグナルを正しく相関付け、進行中の攻撃の全体像を正確に描き出していた。しかしブログによると、「アラートの重大度を正確に引き上げてオンコール(待機中)のチームを呼び出すことに失敗し、対応において貴重な時間を浪費した」という。検知は機能していたが、その情報をタイムリーな行動へとつなげるプロセスが失敗したのだ。

手遅れになる前に対策を講じる

朗報なのは、現実に発生したこの種の攻撃に対して、自社のビジネスに事前に備えさせることができる点だ。筆者が推奨する対策は以下の通りだ。

すべてのエージェントに特権アイデンティティを割り当てる

すべてのAIエージェントを、特権アクセス権を持つアカウントと同様に管理すること。これには、AIエージェントの行動に対して具体的に責任を負う担当者を任命することが含まれる。また、権限はエージェントがタスクを完了するために絶対に必要な最小限に制限し、割り当てる資格情報(認証情報)は長期有効にするのではなく短期間で失効させるべきだ。

セキュリティチームは、エージェントの活動履歴を迅速に検索し、異常が見られた瞬間にアクセスを遮断できるようにする必要もある。エージェントを支えるインフラ自体にもガードレール(安全対策)を設定すべきだ。真に必要な場合を除き、ワークロードがクラウドのメタデータにアクセスできないようにブロックし、本番・テスト・開発の各環境でアイデンティティを分離管理する。

復旧プロセスを訓練する

実際のインシデントが発生した段階で、盲点が発覚するような事態は避けなければならない。チームが精巧な悪意のあるファイルを極めて迅速に分析できるか、またその分析がどこでどのように行われるかを明確に把握しているかを検証する。商用モデルが正規のセキュリティリクエストを拒否するシナリオに備え、フォールバック(代替)オプションを用意しておく。これには、ローカルホスト型のモデルや、一部のAIプロバイダーが防御者向けに提供している検証済みアクセスプログラムの活用などが含まれる。

チームに対処権限を与える

自社のセキュリティスタックは、ネットワーク、アイデンティティ、エンドポイント、アプリケーション、データなどの各シグナルにまたがる証拠を相関付け、統合された一つのビューとして提示できるように設定する必要がある。また、特定の攻撃パターンに対して明確なエスカレーションルールを割り当てるべきだ。

しかし、これだけでは不十分だ。各攻撃パターンは封じ込めアクションと紐付けられ、事前に承認された上で、悪意のあるパターンが検出された際に即座に実行できるように準備しておく必要がある。

外見上は無害なソフトウェアに見えるエージェントも、いったん組織に入り込めば、高度な特権を持つインサイダー(内部関係者)のように振る舞う可能性がある。攻撃者に利用される前に、それらが身にまとっている羊の皮ではなく、変貌し得る「狼」としての本質に合わせた対策を講じるべきだ。

(forbes.com 原文)

タグ:

advertisement

ForbesBrandVoice

人気記事