今日存在するものは自主的な指針に過ぎない。米国防総省はAI倫理原則を採用し、欧州連合（EU）は「信頼できるAI」の枠組みを公表した。しかし、いずれも執行方法については触れておらず、人間の介入なしに標的を選択し攻撃できる兵器を禁止するものでもない。
虚構から現実へ
何十年にもわたり、機械が殺害の決定を下すというイメージは、米映画『ターミネーター』から英テレビドラマ『ブラック・ミラー』に至るまで、SFの世界に存在していた。ところが、ゼレンスキー大統領が警告したように、これはもはやフィクションではない。戦場では既に実例が存在しているのだ。
手榴弾を投下するために改造された4個の回転翼を持つ無人機から始まった技術は、数百キロを飛行する長距離型無人攻撃機へと進化した。ロシア製無人機「ランツェト」は、半自律的な標的捕捉能力を備えていると考えられている。ウクライナはAI支援システムを導入し、衛星画像と戦場データを数秒で処理している。両国は無人機を利用して偵察と攻撃を行っている。
政策立案者にとって、その教訓は明らかだ。生成AIが規制当局の対応が追いつかない速さで社会を変革したように、軍事AIも法的規制がないまま進化を続けている。
ゼレンスキー大統領の懸念は倫理面だけでなく、戦略面にも及ぶ。ある国が自律型兵器で戦場での成功を収めれば、他の国々もこぞって追随するだろう。この動きは20世紀の核軍拡競争をほうふつとさせるが、現代のAI軍拡競争はその速度をはるかに上回る可能性がある。
ゼレンスキー大統領はこう訴えた。「私たちは今、人類史上最も破壊的な軍拡競争を経験している。なぜなら今回はAIが含まれているからだ。もし友人と武器以外に真の安全の保証がなく、世界が従来の脅威にさえ対応できず、国際安全保障に向けた強力な基盤がないとしたら、地球上に安全な場所などあるのだろうか？」
