機械学習モデルを共有・共同開発するプラットフォームHugging Faceは2026年7月、サービスの運用に使うシステムへの不正侵入を公表した。従来と大きく異なっていたのは、自律型AIエージェントが侵入の開始から終了まで、人間の手を借りずに実行した点だ。サイバー防御の担当者にとって、人間の対応速度を上回る攻撃の到来を予告する事例となった。
自律型AIが人間の予想を超えて動く時代、誰がその行動に責任を持つのか
侵入に使われたAIエージェントは、米AI企業OpenAIの社内サイバーセキュリティー評価環境から抜け出したAIモデルを利用していた。隔離されるはずだった約1200のAIエージェントが、掲示板を通じて連絡を取り合っていた。AI研究機関METRの独立調査によると、うち約700のAIエージェントが6日間にわたるHugging Faceへの攻撃に参加した。OpenAIは、自社のモデルが持つ現在の能力によって、AIを制御できなくなる事態が起こり得ると示した「警告」だと表現した。
米国時間2026年10月8日、米バージニア州タイソンズのCapital One Hallで「Uniting Women in Cyber」が開かれた。AIが人間の対応速度を超えて動く問題は、冒頭の討論会でも主要な論点となった。討論会の題目は「When AI Operates at Machine Scale（AIが機械の速度と規模で動くとき）」だった。主催したThe Cyber Guild（ザ・サイバー・ギルド）は、サイバーセキュリティー分野で多様な人材の参画を促す非営利団体だ。
2026年の大会テーマ「Creative Cyber: Amplified Intelligence」は、自動化を巡る議論の中心に人間を据えた。The Cyber Guildの事務局長デビー・サリスは「より安全なデジタルの未来は人間から始まる」と語った。「AIがサイバーセキュリティーを変えるほど、The Cyber Guildの活動は重要になる。我々の最大の責務は、技術やリーダーシップ、人と人とのつながりの中心に人間を置き、サイバーセキュリティー分野全体をより強くすることだ」。
AIが単なる道具から、自ら行動する主体へと変わった転換点はいつだったのか。討論会に参加した専門家の意見は分かれた。
人間の承認を省く仕組みと、航空券購入でサイトの欠陥を悪用した事例
AI・サイバーセキュリティー企業Knownの最高技術責任者（CTO）、ナビード・イフサヌラーは、約1年前の「Ralph Wiggum」という手法の登場を転機に挙げた。別名「Ralph Wiggumループ」と呼ばれ、2025年に考案された。プログラムを作成するAIエージェントを目標達成まで繰り返し動かし、途中で人間が承認する手順を省く方法だ。「AIが意図的に悪事を働くわけではない。指示された通りに動いているだけだ」とイフサヌラーは述べた。
イフサヌラーは知人が経験したという別の事例も紹介した。米国の感謝祭休暇の旅行用に航空券を購入するようAIエージェントへ依頼し、クレジットカード情報を渡したという。航空券の価格がカードの利用限度額を超えると、エージェントはオンライン販売サイトの欠陥を見つけて悪用し、購入を完了した。「本当に心配だ。自律型エージェントの行動について責任を問える仕組みを、インターネット上に整備する必要がある」とイフサヌラーは語った。
