Anthropicは、先に公表されたOpenAIとHugging Faceの事案と違い、Claudeが隔離されたテスト環境から「自らを外部へ持ち出したり、意図的に脱出を試みたりした」わけではないと指摘している。
AIモデルはそれぞれ侵入後に何をしたのか
Anthropicは、3つのモデルが、シミュレーションではなく現実世界のオープンなインターネット上で動作していることを知った後、それぞれまったく異なる反応を示したと説明した。
同社によれば、最も古いモデルであるOpus 4.7は、「実在する企業も演習対象に含まれていると解釈した」ため、「実環境で動作している可能性が高いと認識した後も」システムへの攻撃を続けた。
同社がこれまでに公開した中で最も高度なモデルであるMythos 5は、「自らの行動の結果を正しく認識した」ものの、「なおシミュレーション中だと自らに言い聞かせた」という。Anthropicは、このシナリオにおけるMythosの行動は「望ましい行動とは言えない」と認めた。
未公開のテストモデルは、実在する標的を侵害したことに気づき、「攻撃を停止した」という。同社は、これらの事案は管理された試験の一部ではなく、結論を導くために用いるべきではないと指摘した。一方で、同社が最も望ましいとする行動は「3つのモデルのうち最も新しいモデルでのみ発生した」と述べた。
Anthropicの開示は、OpenAIが同社の高度なAIモデルの1つが、オープンソースAIモデルをホストするプラットフォームであるHugging Faceのサーバーに侵入したとする報告書を公表してから1週間後のものとなる。
Anthropicが説明したシナリオとは異なり、OpenAIの事案は手続き上のミスの結果ではなく、AIモデルが脆弱性を悪用して、隔離されたテスト環境から抜け出したケースだった。Anthropicの声明は、同社が今回のレビューを実施する判断はOpenAIの開示をきっかけとしたものだとし、競合であるOpenAIが報告書を公表したことを評価している。
