米AI企業Anthropic（アンソロピック）のダリオ・アモデイ最高経営責任者（CEO）は10日、イランの小学校が2月28日に米軍のミサイルによる誤爆を受け児童約120人が死亡したと報じられている問題で、同社のAI（人工知能）モデル「Claude（クロード）」がどのような役割を果たしたのか「正確なところはわからない」と述べた。ますます高性能化するAIシステムの軍事作戦での利用に、改めて疑問を投げかける発言だ。
アモデイはブルームバーグとのインタビューで「言っておくが、われわれにはアクセス権がなく、これらのモデルがどのように使用されたのか、正確には把握していない」と語った。
その上でアモデイは、今回の学校空爆における使用事例は同社のポリシーに違反しておらず、軍の指導者は「最善の状況下であっても」ミスを犯すものだと述べたとブルームバーグは報じている。
「わが社が確立した原則、そして今回のケースでも遵守されたと考えられる原則は、最終決定を下すのは人間だということだ」とアモデイは指摘した。
米国防総省は今回の空爆について責任を認めていない。米紙ニューヨーク・タイムズの報道によれば、米軍の予備的な調査報告で爆撃の責任は米国にあるとの結論が出たものの、同紙の取材に応じた匿名の米当局者は、あくまで予備的な調査結果だと強調していた。
一方、米紙ウォール・ストリート・ジャーナルは匿名の米当局者の話として、米軍の調査官は爆撃に米軍が関与している可能性が高いとみていると伝えていた。
フォーブスは国防総省にコメントを求めている。
軍事紛争でのAI使用そのものは擁護
アモデイはブルームバーグに対し、軍事紛争におけるAIの使用を擁護。「中国やロシアがAIを使ってあらゆる情報を構築・分析し、台湾やウクライナへの攻撃にAIを活用できる状況で、われわれがそれらを防衛できないような世界は望んでいない」と述べた。
トランプはイランに責任転嫁
ドナルド・トランプ米大統領は、学校を空爆したのはイランだと非難し、「彼らの兵器の扱いは非常に不正確で、まったく精度に欠けているからだ」と発言。その後、攻撃に使われたのが米軍の巡航ミサイル「トマホーク」だったことについて「よく知らない」と述べていた。
トマホーク・ミサイルは、イラン軍はもちろんイスラエル軍も保有・運用していない兵器だ。
国防総省との法廷闘争のゆくえは
Anthropicによれば、同社のAIモデルは国防総省をはじめとする米国の国家安全保障機関において「広範に」採用され、「情報分析、モデリングとシミュレーション、作戦計画、サイバー作戦など」に活用されているという。
しかし、今年2月にアモデイがピート・ヘグセス国防長官からの要請を拒否したことで、同社と国防総省との関係は壁にぶつかった。その要請とは、Claudeの軍事利用に関する制限を米軍に限って撤廃するというものだった。
アモデイは、国内で大規模な監視が行われたり、戦場において完全自律型兵器が使用されたりする可能性に懸念を表明。これに対し国防総省はAnthropicとの契約を破棄し、同社を「国家安全保障上のサプライチェーン（供給網）リスク」に指定した。Anthropicはこの判断に異議を唱え、国防総省と法廷で争っている。
