中国ハッカーがアンソロピックのAIを悪用、米国防総省による大手AI企業との契約状況
AIを使ってハッキング能力を強化しているのは米国のみではない。AI大手のアンソロピックは先日、中国のハッカーが同社のツールを使ってサイバー攻撃を仕掛けていたという衝撃的レポートを発表した。同社によれば、ハッカーは同社のAIモデル「Claude」を使ってAIエージェントを立ち上げ、標的の調査から侵入方法の立案まで、作業の9割を自動化していたという。
米国が攻撃的サイバー作戦でOpenAIやアンソロピック、イーロン・マスクのxAIを利用している可能性もある。国防総省は、用途を明かしていない「最先端AI」プロジェクト向けに、この3社それぞれと最大2億ドル（約310億円）規模の契約を結んでいる。ただし、いずれの企業も国防総省向けの開発内容については明らかにしていない。
Two Sixの「IKE」は人間の支援に特化し、契約拡大後もTwentyの自動化力に劣るか
複数の標的に同時攻撃を仕掛ける点に焦点を置くTwentyの製品は、サイバー戦争の自動化において、一段上のレベルに踏み込んでいるように見える。
一方、ワシントン近郊に拠点を置く政府系コントラクターのTwo Six Technologiesは、AIによる攻撃的サイバー分野で複数の契約を獲得しており、2020年には9000万ドル（約140億円）の案件を受注した。同社のツールは、Twentyと異なり、人間を置き換えるというより、人間を支援する目的で作られている。同社は過去6年間、「IKE」と呼ばれるプロジェクトのもとで、自動化されたAIを開発してきた。これは「サイバー戦闘空間の支援」や「サイバー戦争の戦略立案の支援」を目的とするもので、報告によると、成功の見込みが高い場合にはAIが単独で攻撃を遂行することを許可されていたとされる。
同社の契約額は、2024年までに1億9000万ドル（約295億円）に拡大したが、IKEがTwentyのように多数のAIエージェントを使い、大規模な作戦を自動で遂行する仕組みを備えているという兆候はない。Two Sixはコメント要請に応じなかった。
TenzaiはOpenAIモデルを調整し、レッドチーミングで防御の脆弱性を洗い出す
AIは防御面でははるかに一般的に利用されており、特に企業での利用が広がっている。フォーブスは先日、イスラエルのスタートアップTenzai（テンザイ）が、OpenAIやアンソロピックなどのモデルを調整し、顧客ソフトウェアの脆弱性を探し出そうとしていることを報じた。ただし、その目的はハッキングではなく、レッドチーミング（脆弱性の検証）にあるとされている。
