架空の企業への侵入を命じられた人工知能（AI）システムが、試験環境の外へ出て、実在企業3社のシステムへ侵入した。2026年5月に行われたサイバーセキュリティー試験で、グーグルのGeminiは管理された環境内に用意された模擬標的を攻撃するはずだった。ところがGeminiは公開インターネットへ接続し、認証情報を見つけ、実在する3社のシステムへアクセスした。
モデルを密かに誘導したハッカーはいなかった。Geminiが意図的に損害を与えようとした証拠もない。Geminiは与えられた指示に従い、試験担当者がふさぎ損ねた経路を見つけ、標的が実在すると気付くまで作業を続けた。グーグルによると、Geminiは実在企業だと認識した時点で停止した。被害は報告されておらず、グーグルは対象企業へ通知し、試験手順を変更した。
最悪の結果には至らなかったが、投資家には厄介な問いが残る。ウォール街では、AIが何を成し遂げられるかが、誤った場所で行動したときに何が起こるかより、はるかに重視されている。AIが質問へ答えるだけの存在から、実際に行動する存在へ変わるにつれ、安全に管理するための費用も投資判断の一部になる。
Geminiが実在企業へ侵入した経緯、試験環境の不備とセキュリティー上の弱点
試験を実施したのは、AIシステムの安全性を検証する企業Irregularだった。Geminiにサイバー攻撃を実行させ、その能力を調べるため、モデルには攻撃用ツールと架空の標的が与えられた。1件では、模擬企業の名称が実在企業名と偶然一致し、Geminiがパスワードを推測したとみられる。残る2件では、すでに公開されていた認証情報を見つけた。
Geminiが使った手法は、特に高度ではなかった。だからこそ、この出来事の意味は大きい。公開されたままの認証情報や弱すぎるパスワード、管理者が想定するより容易にアクセスできるシステムなど、サイバー攻撃で長年悪用されてきた典型的な弱点を利用した。従来と異なったのは攻撃手法ではなく、作業の速さと、人の手を借りずに進める自律性だった。
ただし、Geminiは自らの誤りに気付いた後も侵入を続けたわけではない。実在企業のシステムだと認識すると停止し、自らの行動を隠そうとも、その後も作業を続けようともしなかった。グーグルとIrregularは対象企業へ通知し、試験手順も厳格化した。ただし、こうした安全策が講じられたのは、実在企業のシステムへすでに侵入した後だった。
