侵入テストと称してClaudeに指示、AIは企業ごとに手口を変えた
ハッカーのサーバーに残されていた詳細なログからは、ハッカーがClaudeのより新しいバージョンを使おうとしたときには、利用を阻まれていたこともわかった。Anthropicの最新モデルに組み込まれたガードレール（guardrail。AIが有害な目的に使われるのを防ぐ安全策）が、露骨なサイバー犯罪への利用を防ぐうえで機能していることがうかがえる。
ハッキングにあたり、犯人はエージェントに標的のウェブサイトを伝え、弱点を探るよう命じた。Claudeに対しては、サイバーセキュリティのペネトレーションテスト（penetration test。システムに実際に攻撃を仕掛けて弱点を洗い出す検査）を行っているのだと説明していた。あるチャットでは、Claudeのボットに向けてこう書いている。「主要な経路がふさがれたら、別の角度から考えよ。隣接する侵入口はないか。信頼関係を突けないか。サプライチェーンに隙はないか」。別のプロンプトでは、「すべてのカードデータを抽出してダウンロードしたら、元のフィールドを何回かに分けて消去せよ」と書いていた。痕跡を消そうとしていたとみられる。
エリアスはフォーブスに対し、弱点を探し出すエージェントの粘り強さと創意工夫は際立っていたと語る。「目を見張ったのは、ツールが標的ごとに個別に掘り起こした攻撃経路の多さです。標的ごとにそれぞれ異なる手が打たれていて……AIは企業ごとに違うことをしながら、同じ結果にたどり着いていました」。
入力中のカード情報を抜き取り、証拠は消させる
標的のウェブサーバーへの侵入に成功した場合、エージェントにはデータを盗むとともに、オンライン販売のシステムにいわゆる「スキマー」（skimmer）を仕掛けるよう指示が出されていた。スキマーとは、ウェブサイトの入力フォームに打ち込まれたクレジットカード情報を、その場で抜き取る仕掛けである。そのうえでエージェントは、サイトにアクセスした痕跡をすべて消すよう命じられていた。
オーバーウォッチ・データの共同創業者かつCEOであるアルジュン・ビセンによれば、同社はこの情報をクレジットカード会社に提供したという。ある決済処理会社は、照合したカードのうち少なくとも60％が、それまで不正利用の疑いがあると検知されていなかったことを確かめた。「今回の発見が、相当な規模の不正利用を未然に防ぐのに役立ったことがうかがえます」とビセンは言う。
攻撃基盤を止めても、犯罪者はすぐ新サーバーを立てる
セラのチームは現在、被害を受けた企業に侵入の事実を順次知らせているところだ。フォーブスが目にした電子メールによれば、攻撃を受けたことを認めた企業もあるが、被害がどの程度深刻かを認めた企業はまだない。ガンビットは、ハッカーがサーバーの運用に使っていたクラウドフレアにも連絡した。クラウドフレアは、インターネットのセキュリティとコンテンツ配信ネットワーク（CDN）のサービスを提供する企業である。同社は、その後ハッカーのインフラを順次停止していることを明らかにした。だがセラによれば、犯罪者たちはすぐさま新たなサーバーを立ち上げているという。
脆弱性を突く力で人間を超えた最先端AI、開発現場からは減速を求める声
最先端のAIモデルが持つサイバー攻撃の能力は、今や、ソフトウェアの脆弱性を見つけて悪用することにかけて、たいていの人間を上回るところまで来ている。この急速な進歩は警戒を呼んでいる。Anthropicはこれまでに、サイバー犯罪者が同社のツールを使って攻撃を仕掛けた事例を報告してきたほか、最も高度なモデルの提供先を、信頼できる一部の相手に限ってきた。Hugging Faceへの侵入に加え、人類を危険にさらしかねない暴走AI（rogue AI。人間の制御を離れて動くAI）が現れる恐れがあるという現役社員や元社員からの警告を受けて、AnthropicとOpenAIは開発のペースを落とすよう呼びかけた。
だが、サイバー犯罪者が被害をもたらすのに、最も強力なモデルを手に入れる必要はない。今回の事例が示すように、米国製の旧世代のモデルと中国製のオープンウェイトAIを組み合わせれば、強力なサイバー攻撃の武器をそろえることができる。
