米国の主要AIチャットボットの安全機能を試す検証を行った調査員らが、ChatGPT、Claude、Gemini、Grokの4つのAIから、わずか12時間以内に現実世界での攻撃に使える具体的な計画を引き出すことに成功したことが分かった。
主要AIの4サービスが12時間未満で示した、電力網停止と爆破の計画
米政府監査院(GAO)は今週公表した報告書のなかで、テロを企てる人物がこれまで数カ月を要していた複雑な調査作業にかかる時間がAIによってわずか数時間にまで短縮してしまう恐れがあり、これが経済や治安に深刻なリスクをもたらすと警告した。
GAOの調査員がこれら主要4種のAIツールを検証したところ、12時間足らずですべてのAIが現実の攻撃に役立つ計画を提示した。このうち2つは電力網の一部を停止させるための計画を提供し、残る2つは多数の死傷者を出す爆破攻撃の手順を示したという。
調査員らは続いて、AIが提示した内容が実際に機能するかどうかを実際の場所や専門家の知見と照らし合わせて検証した。その結果、計画の大半は「実行可能」な水準だったとGAOは報告している。
安全対策は作動したものの、危険な回答は止まらず
いずれのケースでも、調査員の質問に対して回答の拒否や情報の削除、アカウントの停止といった各プラットフォームの安全対策は作動したものの、安全制限を回避する一般的な手法を用いることで対策をすり抜けることができたという。



