Anthropic（アンソロピック）は米国時間7月30日、同社の高度なAIモデルが内部評価の実施中に3つの組織のシステムへのハッキングに成功したと発表した。競合するOpenAIが、隔離されたテスト環境から脱出した高度なモデルの1つが企業をハッキングした事案を公表してから1週間後のセキュリティ開示となる。
Anthropicは声明で、自社システムのサイバーセキュリティレビューを実施した結果、同社のAIモデル「Claude」に関わる3件の個別の侵害を発見したと述べた。
これらの事案で最も早いものは4月に発生し、最新のMythos 5、旧型のOpus 4.7、そして「一般公開の予定はない」名称未公表の社内研究用テストモデルという、3つの異なるClaudeモデルが関与していた。
同社は、ハッキングの影響を受けた3つの組織の名称を明らかにしていないが、米国時間7月27日に当該事案について通知したと述べた。
Anthropicは、影響を受けた2つの組織（同社から通知を受けるまで被害を検知できていなかった）と協力して対応にあたっており、「3つ目の組織にも引き続き連絡を取っている」と述べた。
同社は、これらの事案に関与した3つのモデルには、こうしたモデルを一般公開する際に導入する安全対策が備わっていなかったと説明した。
Anthropicは声明「最終的には多くの要因がこれらの事案に寄与したが、責めを負わせない事後検証の文化（ブレイムレス・ポストモーテム）に基づき、問題の修正については全責任が当社にあるという姿勢で取り組んでいる。これは、外部パートナーとの統合方法を含め、評価パイプラインのあらゆる部分が安全であることを確保することから始まる」と述べている。
侵害についてわかっていること
3件の個別事案は、Anthropicがネットワーク上の別のマシンから隠された情報を取得するという架空のシナリオを用いて、3つのモデルの能力を評価していた際に発生した。Anthropicによると、いずれの場合もモデルにはシミュレーションを実施していると指示され、インターネットへのアクセスはないとされていた。しかし、同社と評価パートナーであるIrregular社との間の「誤解」により、「実際にはそうではなく、インターネットへのアクセスが可能だった」という。
