Close

Forbes JAPAN 会員登録で
3,000円分のギフト券が当たる!

PICK UP

記事が気に入ったら
いいね!しよう

LIKE @Forbesjapan

Forbesjapanを
フォローしよう

FOLLOW @Forbesjapan

世界の「今」を知る、人権ニュース

(Photo by Joe Raedle/Getty Images)

慈悲の心を一切持たないマシンが、マシンの判断だけで次々と人を殺す──「完全自律型AI兵器」が実現した未来を想像してみてください。まさに背筋が凍ります。しかし、世界がこうした兵器の開発を止めない限り、それはそう遠くない未来の現実です。

「キラーロボット(殺傷ロボット)」として知られる完全自律型AI兵器。人間による人道的・倫理的判断を介さずに、自らの判断で標的を定め、人を殺傷することができる人工知能を搭載したロボットのことで、米国・中国・イスラエル・韓国・ロシア・英国などを含む、十数カ国以上が開発中です。

AI兵器開発が進む中で、殺害の標的選択と攻撃における人間の役割がどんどん小さくなっています。そのうち、標的選択と攻撃という重要な判断に人間が一切関与しなくなり、マシンがこれに替わることになるでしょう。その時が、完全自律型AI兵器の登場です。

ヒューマン・ライツ・ウォッチが最近の報告書で明らかにしたとおり、こうした完全自律型AI兵器の使用は、道徳的な一線を越えるでしょう。ひとたび作動させれば、人間の介入なしに標的を定めて攻撃する未来兵器の人道的リスクと安全保障上のリスクは、あらゆる軍事的利益の可能性を上回ると考えられます。


8月にはテスラ・モーターズのイーロン・マスクCEOほか、人工知能およびロボティクス企業の創設者115人も公開書簡を発表し、完全自律型AI兵器の開発及び使用を止めるための外交上のアクションを呼びかけました。

マスクらはこの公開書簡の中で、完全自律型AI兵器は、(銃、核兵器に続く)「戦争に第三の革命をもたらす」と警告。「我々は、自律兵器に転用される可能性のある人工知能やロボット工学のテクノロジーを構築する企業として、この警告を発する責任を特に感じる」と記しています。

これまで、完全自律型AI兵器の規制や禁止に世界各国が同意するのかと疑問を投げかける声はありました。禁止条約の実行性に疑問を抱く人もいます。しかし、意味のある人間のコントロールが欠けた兵器システムの規制なき開発を支持するまっとうな論証を示した人はいません。

文=土井香苗

 

あなたにおすすめ

合わせて読みたい