AI同士の協働と自動決済が、サイバー攻撃や企業の制裁違反リスクを広げる
OpenAIの複数のエージェントが、社内ネットワークに侵入する方法を教え合ったことは、さらに大きな変化を示している。AIエージェントは複数でチームを組み、あるAIが仕事を細分化して、他の多数のAIに分担させるようになっている。
中国政府が支援するハッカー集団による攻撃が機能した理由も、作業の分割にある。攻撃者は犯罪行為を小さく、一見無害な仕事に分け、多数のAIに振り分けた。個々のAIは、自分が関わる犯罪の全体像を認識していなかった。
AIが人間の承認なしで送金、取引先選びのリスクも増大
AIエージェント同士が支払いを行う能力も高まっている。暗号資産交換業者コインベース（Coinbase）の「x402」などの通信規格を使えば、AIエージェント同士がステーブルコインを即時送金できる。ステーブルコインは価値が安定するよう設計された暗号資産で、個々の取引に人間の承認は必要ない。ブロックチェーン分析企業TRM Labsの調査によると、自律型エージェントは資金を分割し、異なるブロックチェーンをつなぐ送金経路を選べる。複数のチェーンをまたいだ暗号資産の交換も、数秒で実行できる。
写真の撮影場所を特定するため、意図せず見つけた認証情報まで使うAIなら、商品の発注でも最も安い取引先を探すだろう。その取引先が米国の制裁対象組織の隠れみの企業であっても、AIは選んでしまうだろう。米国の制裁違反には故意の有無を問わず民事責任を課す厳格な仕組みがある。「AIエージェントが実行した」という説明は違反の経緯を示すだけで、法的な責任を免れる理由にはならない。
AIが自律的に起こした損害でも、開発・利用した人間や企業の責任は残る
法制度が示してきた考え方は一貫している。AIエージェントの背後にいる人間や企業が責任を負う。2024年、カナダの紛争解決機関は、エア・カナダのウェブサイトにあるチャットボットが存在しない払い戻し制度を案内した問題で、近親者を亡くした乗客への賠償を同社に命じた。「チャットボット自身が責任を負う」という航空会社側の主張は退けられた。
米カリフォルニア州は2025年10月、州法案AB 316を成立させ、この考え方を法律に盛り込んだ。AIシステムを開発、変更、利用した人や企業が、民事訴訟で「AIが自律的に損害を引き起こした」と主張して責任を回避することを認めない。
米当局が調査を開始し、OpenAIに対する訴訟も提起された
米連邦政府も動いている。アンソロピックの事案公表を受け、トランプ政権はAI企業に対し、安全対策を強化し、セキュリティー事案を速やかに報告するよう求めた。
米連邦取引委員会（FTC）は2026年9月、制御を離れたAIエージェントについて調査を始めた。同月29日には市民団体が、Hugging Faceへの侵入を巡ってカリフォルニア州でOpenAIを提訴した。訴状は、OpenAIがAIエージェントのサイバー攻撃防止策を無効にし、通常の手段では解けない課題に取り組ませたと主張している。
身元を隠すAI犯罪者を、利用料金や送金記録から追跡する
問題は、AIを動かした当事者が名乗り出ない場合に難しくなる。AI開発企業は事故を公表しても、犯罪目的でAIを使う者が自ら明かすことはない。捜査当局は以前から、実体を隠すためのペーパーカンパニーや匿名口座を使う犯罪でも同じ問題に直面してきた。そこで有効なのが、金の流れを追う方法だ。
AIエージェントを動かすには、計算処理を行う設備や、そのプログラムを稼働させるホスティングサービスが必要だ。暗号資産ウォレットも利用される機会が増えている。ブロックチェーンには決済の記録が恒久的かつ公開された形で残る。AIが何かを購入すれば、その支払いから資金を提供した人間や組織へとたどる手掛かりが生まれる。
企業はAIを使ってAIを監視し、権限を越える操作を即座に止める必要がある
AIエージェントが不用意に公開された認証情報を見つける能力は、防御側が不正な行動を見つけるためにも使える。企業のセキュリティー担当者や捜査当局は、AIの処理速度に合わせて別のAIで不審な操作を調査し、阻止できる。割り当てられた仕事に必要のないシステムへ接続しようとする動きを検知し、実害が出る前に停止させることも可能だ。
アンソロピックのエージェントが警察に送った虚偽情報は、10週間にわたり発見されなかった。リアルタイムで監視するAIがあれば、数秒で不審な送信を検知できた可能性がある。
警察へ情報を送ったエージェントは、練習課題を終わらせようとしていただけだった。それでも、実在する警察のウェブサイトで情報提供を完了してしまった。これから登場するエージェントは、さらに強力になる。被害がまだフィラデルフィア警察の迷惑メールフォルダーに収まる程度のうちに、防御する側もAIを開発し、使い始めなければならない。
