サイバー犯罪者がAIを用いてゼロデイ攻撃（ゼロデイ・エクスプロイト）を開発したことが判明した。テック大手のグーグルが最新報告で明らかにしたところによれば、これは不法行為のためにAIがソフトウェアを解析し、ハッキングツールの開発に成功した初の事例だという。
この1年間、サイバー犯罪者はAIがどこまで企業ネットワークへの侵入を助けてくれるか、その限界を試してきた。そんな中、グーグルは米国時間5月11日に1つの警告を発した。AI技術の支援を受け、犯罪者がゼロデイ攻撃として知られる強力なハッキングツールの開発に初めて成功したというのだ。
ゼロデイ攻撃とは、これまで知られておらず、修正パッチも当たっていない未知の脆弱性を標的とする小さなプログラムのことだ。これを利用することで、標的のコンピューターやネットワークにマルウェアをインストールしたり、データにアクセスしたりすることが可能になるため、ハッカーの間では極めて希少かつ強力なツールとされている。
グーグルのセキュリティ研究者は、オープンソースのウェブベースIT管理ツール（名前は伏せられている）を標的にした攻撃をハッカーが開発した証拠を発見した。グーグルによれば、「脆弱性を悪用した大規模工作」が進行中であったという。同社は、当該ITツールのベンダーに警告を発することで、攻撃の発生を未然に防ぐことに成功した。
グーグルは、AIが悪質なコードの作成を支援したことを示す兆候がいくつかあったと述べている（ただし、どのAIシステムが使用されたかまでは特定されていない）。報告書によれば、コードの構造にはAI特有の「非常に顕著な特徴」が見られたという。例えば、プログラミング言語Pythonの「お手本通り」の使い方や、人間が書いたプログラムには通常見られない「詳細なヘルプメニュー」が含まれていたとされる。さらに、存在しない脆弱性に言及するという、AI特有のハルシネーション（幻覚）と思われる記述も含まれていた。
標的を調査するため、攻撃者がGeminiを利用している事実も確認
グーグルはまた、中国や北朝鮮の諜報機関のために活動するハッカーを含む攻撃者が、サイバー攻撃の潜在的な標的を調査するために、同社が展開するAIチャットボットのGeminiを利用している事実を突き止めた。
あるケースでは、「UNC2814」と呼ばれる中国関連のサイバー犯罪グループが、ネットワークセキュリティの専門家のように振る舞うよう求めることでGeminiを欺いた。その結果、Geminiは、安全上の理由から米国で販売禁止されているTP-Link製ルーターの脆弱性を探ることに同意してしまったという。
