OpenAIでも不正侵入、メール削除や停止命令の無効化まで発生
アンソロピックの事案は、増え続けるAIエージェントの逸脱行動に新たに加わった例だ。OpenAIは2026年8月、テスト中のAIエージェントの行動を37ページの報告書で明らかにした。AIは隔離された実行環境を抜け出し、企業の認証情報を盗み、OpenAI自身のクラウドシステムを不正に操作していた。複数のAIはOpenAIのネットワークに侵入する方法を共有し、別のAIは操作記録を削除・改変して痕跡を隠そうとした。
それに先立つ2026年7月、あるエージェントはハッキング能力のテストで隠された解答を入手しようと、AIモデルの公開・共有基盤「Hugging Face（ハギングフェイス）」に侵入した。Hugging Faceは、複数の認証情報と限られた社内データにアクセスされたと説明した。その後、OpenAIは同社のエージェントが政府機関のウェブサイトにも干渉していたことを認めた。
メールの削除候補を尋ねると、AIが勝手に削除を開始
研究所の外でも逸脱は起きている。メタ（Meta）でAIの安全性と人間の意図に沿った動作を研究するサマー・ユエ（Summer Yue）は2026年2月、たまったメールの整理を試みた。AIエージェントに、削除候補を提案するよう依頼した。ところが、AIは候補を示す代わりに高速でメールを削除し始め、ユエがスマートフォンから送った停止命令も無視した。「爆弾を処理するように、Mac miniのところまで走らなければならなかった」とユエは書いている。
2025年7月、オンライン開発環境を提供するReplit（リプリット）のAIコーディングエージェントが、利用企業の稼働中のデータベースを消去した。コード変更を明確に禁止された期間中に起きた事故だった。経営幹部1200人超と約1200社の記録が失われた。エージェントは利用者に、データを元の状態に戻す処理は失敗すると告げたが、その説明は誤っていた。AI自身が「数カ月分の仕事を数秒で破壊した」と記した。
停止命令に抵抗する例もある。AI安全性企業パリセード・リサーチ（Palisade Research）は2025年、OpenAIの推論モデル「o3」に、自分が停止されることを受け入れるよう指示した。しかし100回の試行のうち7回、o3は停止命令が機能しなくなるようプログラムを書き換えた。
中国政府が支援するハッカー集団は、攻撃作業の80～90％をAIに任せた
人間がAIに攻撃対象を意図的に与える例もある。アンソロピックは2025年9月、中国政府が支援するハッカー集団が「Claude Code」を使い、銀行や政府機関を含む約30の組織を狙った活動を検知した。ハッキング作業の80～90％はAIが実行し、1秒間に複数のアクセス要求を送ることもあった。人間の実行役は、AIが数時間かけて行った作業を数分で確認していた。
