サイバーセキュリティの研究者グループが報奨金付きプログラムの一環としてOpenAIの内部システムへの侵入に成功した。このハッキングにはアンソロピック製AIのClaudeが使用された。テクノロジー業界のトップ幹部や研究者からAI技術の安全性に関する警告が発せられる中、高度なAIモデルがもたらす脅威が浮き彫りになった。
バグ報奨金プログラムにおいて、OpenAIの社内コードに到達
セキュリティ分野のスタートアップ企業であるハックトロンAIの研究者らによると、彼らはOpenAIの従業員が持つChatGPTアカウントへアクセスし、そこからGitHub上にある同社の内部コードへのアクセスに成功したという。
ウォール・ストリート・ジャーナル（WSJ）がこの一件を最初に報じた。WSJによると、このチームはOpenAIが開催した報奨金付きのバグ発見プログラムに参加しており、脆弱性の報告に対する報奨金として研究者らには6500ドル（約104万円）が支払われた。
Claude Opus 4.8は苦戦、Opus 5の登場で攻撃コードが完成
ハックトロンは報告書の中で、当初はアンソロピックのClaude Opus 4.8を使ってシステムへの侵入を試みたものの、「複数回のセッションを経ても、実際に機能するエクスプロイト（訳注：脆弱性を利用した攻撃手段）を作成できなかった」。しかし、アンソロピックがその後リリースしたOpus 5を使用したところ、ハッキングに成功したという。「新しいモデルが登場するたびに、その能力はますます高まっている」とハックトロンは報告書の中で述べている。
WSJの報道によれば、研究者らは「要件を満たしたサイバーセキュリティの専門家」向けに提供されているClaudeの「特別版」にアクセスできる状態にあったという。
OpenAIの広報担当者であるドリュー・プサテリはフォーブスに対し、「当社に連絡を取り、調査結果を共有してくれた」研究者らに感謝するとともに、当該の脆弱性はすでに修正済みであると声明で述べた。
画像ファイルの処理に潜む脆弱性は、スラックやメタにも及ぶ
研究者らの報告書によると、今回のハッキングに要したのは「AIエージェントの稼働に数日、人間の作業としはわずか数時間」だったという。このハッキングは、多数のソフトウェアやサービスが特定の画像ファイルを処理する際の脆弱性を調査する、より広範な研究プロジェクト「HEIF Heist」の一環として行われた。今回と同様のエクスプロイトはスラック、ズーム、メタなどの脆弱性も発見しており、それに要した期間はわずか2カ月、関わった研究者は3人で、費用の合計は「トークン代の3000ドル（約48万円）未満」だった。
複雑さによる保護が崩れ、数カ月の作業が数日に縮まる
研究者らは結論として次のように記している。「ソフトウェアは長年、その構造の複雑さによってセキュリティ面で保護されてきたという経緯がある。（中略）しかしAIは、希少な専門知識を計算リソースに置き換えることで、その保護の壁を取り払いつつある。かつては豊富なリソースを持つチームと何カ月もの労力を必要とした作業が、今では数日で実行できるようになった。（中略）防御側のセキュリティは、攻撃者の能力の向上に追いつかなければならない」。
