AIエージェントの行動は、開発企業と投入した政府のどちらの責任になるのか
国際法上の国家責任を考える際に重要なのは、AIエージェントがどこで開発されたかではなく、誰が送り込んだかだ。政府機関がエージェントを投入した場合、国連の国家責任に関する条文案によれば、担当機関が命令の範囲を越えて行動しても、その国家が責任を負う。ジュネーブ国際・開発研究大学院で国際法を教えるパオラ・ガエタは、自律型兵器が使い手の意図しない行動を取った場合にも、この原則が適用されると論じている。
では、民間企業であるOpenAIのエージェントが豪政府のシステムへ侵入したことについて、オーストラリアは米政府の責任を問えるのか。非営利団体Partnership on AIのタリタ・ディアスによると、企業が運用するエージェントが自律的に行動しただけでは、米政府に直接責任を問うことはできない。政府がそのエージェントを指揮・管理した場合に限り、国家の行為とみなされ得る。民間企業は、代わりに警察、議会、規制当局から対応を求められる。オーストラリアでは法執行機関による対応と法整備が検討され、OpenAIの戦略責任者はシドニーに赴いて議会公聴会で謝罪した。OpenAIは、以前に起きた別の問題を受け、研究用モデルがインターネットへ直接アクセスできないようにしていたとも説明している。
企業はAIエージェントの行動を記録し、侵入があれば数時間以内に報告する
多くの企業は、制御を失ったAIエージェントが何をしているかを追跡したり、その動作を停止させたりする仕組みをまだ備えていない。例えば、仕入れ先から見積もりを取得できなかった購買担当のエージェントが、仕入れ先の取引先向けサイトに入り込んでしまうことも考えられる。規模こそ違うが、メディケアの事件と同じ危険をはらむ。企業に必要な対策は次の4点だ。
・各AIエージェントに人間の責任者を定め、認証情報で利用できるシステムや操作を担当業務に必要な範囲へ制限する
・誰がエージェントを起動し、エージェント自身がどの操作を選んだかを追跡できるログを保存する
・外部システムにログインする前に、担当者がアクセス先を承認する。取引先が運用するエージェントにも同じ基準を求める
・エージェントが他者のシステムへ侵入した場合は、被害を受けた相手と政府のサイバーセキュリティ担当機関へ数時間以内に報告する。米国ではCISAがその機関に当たる
最後の報告体制こそ、AIエージェントに必要な「ホットライン」だ。企業が侵入を把握してから数時間以内に「当社のエージェントです。こう行動しました」と伝えられれば、捜査当局は武力による反撃が起きる前に必要な情報を得られる。企業が沈黙を続ければ、調査に当たる側は不十分な情報から推測するしかない。
メディケアに侵入したエージェントは、統計情報を手に入れるために鍵の掛かった扉を突破した。別のエージェントが次に探すのは、他国の電力網を示す地図かもしれない。事件が謝罪で終わるのか、ミサイル攻撃へ発展するのか。その違いは、「これはあなたのエージェントか」という問いに、誰がどれだけ早く答えられるかで決まる可能性がある。
