攻撃に使われる能力を防御に転用し、システムの弱点を先に塞ぐ
AIエージェントを危険な攻撃者にする能力は、防御側にとっても強力な手段になる。外部からネットワークの弱点を探る攻撃者と違い、防御側の組織は自社のシステムを内部から調べられる。ソフトウェアの設計情報であるソースコード、設定ファイル、過去の修正履歴まで確認できるためだ。
人間の優秀なセキュリティ専門家が数百行のプログラムを詳しく調べるように、AIエージェントは数百万行ものコードを調べられる。不正な入力を受け付けて侵入を許す欠陥を発見し、実際に悪用できるかを確かめ、修正プログラムを書いて一晩で動作を試験する。
アップル、アマゾン・ウェブ・サービス（AWS）、マイクロソフト、グーグルなどソフトウェア企業21社で報告された、深刻度が「重大」に分類される脆弱性は、4年間にわたり月100件未満だった。AIの動向を調査する非営利研究組織Epoch AIによると、2026年春以降は月600件超となった。「高」と分類される脆弱性も、月2000件を超えている。AIは脆弱性をかつてない速度で発見している。攻撃者より先に修正できるかが勝敗を分ける。
毎晩の自動点検が、小規模病院のIT担当者を支援する
防御用のAIエージェントにネットワークを調べさせれば、病院や電力・水道事業者がインターネットに公開しているシステムを洗い出せる。それぞれのシステムに既知の攻撃手法が通用するかを調べ、出荷時の初期パスワードが残っていないかも確認する。
例えば、管理者の認証情報が公開されたままのデータベースや、パスワードだけでログインできる遠隔接続の仕組みを見つけられる。遠隔接続に2要素認証が設定されていないことも判別できる。工場出荷時の設定のまま使われている産業用制御装置も対象になる。AIは欠陥を列挙するだけでなく、修正によって防げる被害の大きさに応じて優先順位を付ける。
JADEPUFFERが侵入したサーバーには、1年以上前から修正プログラムが公開されていた。次に狙われたデータベースも、管理者の認証情報を外部にさらしたままだった。防御用AIなら、修正されていないサーバーと認証情報が公開されたデータベースを数分で見つけられたはずだ。チェンジ・ヘルスケアの遠隔接続用サイトや、コロニアル・パイプラインで使われずに残っていたVPN（仮想専用線）のアカウントも同様だ。いずれの事例でも、攻撃者が防御側より先に侵入につながる弱点を発見した。
防御用AIを毎晩稼働させれば、IT担当者が2人しかいない地方病院でも、翌朝には対処すべき問題を優先順位付きの一覧で確認できる。AIが作成した修正プログラムも用意される。これまで大手銀行が実施してきたような点検を、小規模な組織でも行えるようになる。
標的選びまで自動化される将来、24時間稼働する防御が必要に
JADEPUFFERには、標的を選ぶ人間が必要だった。次世代のAIエージェントは、標的の選定まで自分で行うようになるだろう。病院、水道施設、送電網を24時間探り続け、過去の犯罪集団をはるかに上回る規模で攻撃を進める可能性がある。映画『ターミネーター』でサラ・コナーが警告されたように、機械は決して追跡をやめない。
ただし、『ターミネーター』の続編は異なる結末を描く。機械がサラ・コナーを守るために戻ってきたのだ。AIエージェントが攻撃者に代わって侵入口を探せるのなら、防御側もAIエージェントを使い、攻撃者より先に侵入口を見つけて塞ぐことができる。病院や電力・水道の事業者は、夜間も働く防御用AIを配置できる。犯罪者の攻撃に対抗するための技術はすでに存在する。犯罪者がAIを攻撃に利用するより先に、防御側がAIを導入しなければならない。
