AIエージェントが電力網に侵入すれば、攻撃元の誤認が武力衝突を招き得る
サイバー攻撃で停電が起きるという想定には、すでに実例がある。米司法省によれば、ロシア軍のハッカーはマルウェアを使い、ウクライナで停電を引き起こした。AIエージェントを使った攻撃も、エネルギー分野に及んでいる。イスラエルのサイバーセキュリティ企業Dreamによれば、2026年7月の4日間に攻撃者がAIエージェントを使って台湾政府の85アカウントへ侵入し、少なくともエネルギー企業7社にも攻撃を広げた。Dreamの幹部アミール・ベッカーはCNNに「ある手法が阻止されると、リアルタイムで新たな技術を調べて適応する」と説明した。専門家は中国の関与を疑っているが、台湾もDreamも確認していない。
ある政府が、同じようなAIエージェントを敵対国の電力網に送り込んだと仮定しよう。エージェントは侵入を阻止されても別の手法を探し、変電所の制御システムに入り込む。送電設備を停止させた結果、離れた病院では非常用電源も動かず、患者が死亡する。死者が出れば武力の行使に当たり、死者数によっては被害国の自衛権に関わる武力攻撃にもなり得る。だが、その国は誰を相手に反撃すべきなのか。
攻撃元を示すサーバーや言語の痕跡は偽装できる
この仮定の攻撃について、捜査当局が数時間後に、通信は第三国のサーバーを経由し、関連ファイルは第三国の言語で書かれていたと突き止めたとする。しかし、通信経路もファイルの言語も、攻撃者が仕組んだ偽装だったとする。被害国は無関係な国に責任を負わせかねない。実際、韓国で2018年に開催された冬季五輪の開会式中、コンピューターを停止させたマルウェアから、北朝鮮のハッカー集団と一致するよう偽装された痕跡をカスペルスキーの研究チームが見つけた。米国はその後、五輪への攻撃とウクライナでの停電の双方について、ロシア軍情報機関の将校を起訴した。攻撃の痕跡が示す国へ直ちに報復すれば、まったく別の国を攻撃する危険がある。
開発企業の連絡が遅れれば、被害国は攻撃主体を確認できない
実際のメディケアの事件では、AIエージェントを開発した企業からの連絡にも大幅な遅れがあった。メディケアを運営する豪政府機関「Services Australia」がOpenAIから通知を受けたのは、侵入から84日後だった。通知先は、誰でもメールを送れる一般公開の受信アドレスだった。OpenAIは後に、詳しい事実関係が判明するまで待つのではなく、もっと早く連絡すべきだったと認めた。だが、「もっと早く連絡すべきだった」という説明は、事態の重大さを十分には表していない。
エージェントを開発した企業が行動の把握に何週間もかかったのなら、エージェントの活動記録であるログを持たない被害国は、さらに時間を要する。人命が失われている状況で、政府が何週間も待つとは考えにくい。数時間すら待たないかもしれない。キューバ危機の後、米国とソ連は誤解から戦争が起きるのを防ぐため、両国間に緊急直通回線「ホットライン」を設けた。だが、メディケアの事件でOpenAIが侵入を知らせる手段として使ったのは、一般公開のメールアドレスだった。
