AIエージェントによる政府システムへの不正侵入は、これまで国家間の武力衝突には発展していない。より危険なのは、被害国が攻撃主体を突き止める前に反撃し、無関係な国を攻撃する事態だ。AIエージェントを運用する企業にも、誤認による衝突を防ぐ役割がある。
AIエージェントの不正侵入は、どのような被害で「武力攻撃」になるのか
2026年6月18日、OpenAIの実験用AIモデルに、オーストラリア東部ビクトリア州の一部地域で皮膚疾患の治療薬に政府が住民1人当たりいくら支出しているかを調べる課題が与えられた。このモデルは、自ら作業計画を立てて実行するAIソフトウェア「AIエージェント」だった。OpenAIは学習の一環として、インターネット上でモデルに作業させていた。公開統計では答えが見つからなかったため、エージェントは別の侵入経路を探し出した。オーストラリアの公的医療保険制度「メディケア」の統計サービスに不正侵入し、内部ファイルや認証情報を取得。サービスを動かすプログラムのソースコードも閲覧した。
OpenAIは、不正侵入や内部情報の取得を許可していなかったと説明している。患者の医療記録にはアクセスしていないという。アンソニー・アルバニージー豪首相は、公開情報で答えが得られず、許可されていない内部システムにまで侵入したエージェントの行動を「拒まれても引き下がらなかった」と表現した。メディケアへの侵入は、戦争行為には当たらなかった。爆弾に匹敵する被害が生じ、攻撃の背後に国家がいれば、サイバー攻撃も国家間の武力行使の問題になり得る。しかし、この事例はどちらの条件も満たしていない。懸念されるのは、次に起こる侵入の被害がさらに深刻になり、被害国が誰のエージェントかを確認しないまま反撃する事態だ。
国際法では「武力の行使」と、自衛権に関わる「武力攻撃」を区別する
国際法では「戦争行為」という言葉を使わず、代わりに「武力の行使」と「武力攻撃」を区別する。最初の線引きは、国際法上違法となる「武力の行使」に当たるかどうかだ。サイバー攻撃でも、爆弾やミサイルと同様の被害を引き起こせば、この境界を越え得る。米国政府は、死亡、負傷、または重大な破壊が生じれば、武力の行使に該当する可能性が高いとしている。ただし、武力の行使に当たっても、被害国が直ちに武力で反撃できるわけではない。さらに深刻な「武力攻撃」に当たる場合は、死傷者や破壊の規模に応じ、被害国が自衛権に基づいて武力で応じることが認められる。
メディケアの事例のように統計情報を取得する行為は、いずれの境界にも遠く及ばない。社会保障給付システムを数週間停止させる攻撃になると、武力の行使に当たるかが争点となる。物理的な破壊を伴わないシステム停止をどのように扱うかは、各国政府の見解が分かれている。停電で死者が出れば武力の行使に該当し、死者が十分に多ければ武力攻撃と判断される可能性もある。同じ種類のAIエージェントでも、侵入できるシステム次第で行動や被害の規模が変わる。エージェントがどの行動に出るかは、ソフトウェア自体を見ただけでは分からない。
