AI

2026.11.20 09:00

ChatGPTやGeminiなどの主要AIが「実行可能なテロ計画」を生成、最新報告

Matteo Della Torre/NurPhoto via Getty Images

BRANDVOICE | Paid Program

もっと見る>

開発4社の説明とGAOが認めた検証の限界

各AIツールを手がけるOpenAI、アンソロピック、グーグル、スペースXAIの4社は、安全機能を継続的に更新していると説明した。またアンソロピックは、検証が今春に実施されたあとに自社の保護機能が向上している点を挙げ、今回のテストの妥当性に疑問を呈した。

advertisement

GAO側も、今回の検証はチャットボット間の科学的な比較ではないと認めているほか、AIが生成した計画の一部には不正確な地図や厳重に警備された標的、実際には大きな被害をもたらさない手法など重大な欠陥が含まれていたとしている。

なぜ安全保障の専門家はAIの悪用を警告してきたのか

国家安全保障の専門家や議員、テクノロジー分野の研究者らは長年にわたり、生成AIが悪意ある主体の能力を飛躍的に高める存在となり、現実世界での危険な攻撃のハードルを下げる恐れがあると警鐘を鳴らしてきた。The Centre of Excellence Defence Against Terrorismも、AIの兵器化を「テロと戦争の次なる段階」と位置づけ、テロ組織が「かつてない効率性と実効性をもって活動する」ことを可能にしかねないと警告している。

ラスベガスとデリーの爆発事件、AI利用の疑い

主要AI開発各社は有害なリクエストを遮断するための安全フィルターをモデルに組み込んでいるが、強い意図を持つユーザーであれば、危険な質問を架空の物語や学術研究、ロールプレイの体裁に装うことでシステムを欺き、安全制限を突破する「ジェイルブレイク」が可能であることを研究者らは繰り返し実証してきた。実際、2025年1月にラスベガスで起きたホテル爆発事件や、少なくとも15人が死亡したインド・デリーでの爆破事件など、攻撃計画の策定にAIツールを利用した疑いが持たれる容疑者はすでに複数にのぼる。

advertisement

英タイムズ紙が11月18日に報じたところによると、AIの助けを借りて計画された攻撃により、これまでに少なくとも70人が命を落としている。

(forbes.com原文)

翻訳=江津拓哉

タグ:

advertisement

ForbesBrandVoice

人気記事