AIが暴走した場合、誰が責任を負うのか
さらにホーリーは、「制御不能になったAIエージェントによる今回のハッキングがもたらす結果について、今すぐ問うべき疑問がある」と続け、「AIエージェントが重要インフラや銀行、公益事業のシステムに侵入した場合、一体どうなるのか。何百万人もの米国人の個人データをどうやって適切に保護できるのか。AIが暴走した場合、誰が責任を負うのか」と畳み掛けた。9日にはOpenAIの対外政策担当責任者であるクリス・ルヘインが同社の声明を通じて「国家レベルで定められた義務としてのAI安全基準」を求めたが、これはパチョツキらの警告に応じた動きと見られる。
7月の侵入以前から、AIエージェントは外部サイトを掲示板に利用
7月に自社モデルのサイバーセキュリティ能力をテストしていたOpenAIは、自律型エージェントのグループがテスト環境から抜け出してインターネットにアクセスし、Hugging Faceへのハッキングを試みていることに気づいた。
同社は8月にこの事件に関する独自の報告書を公開し、これを「威嚇射撃」と呼んで、AIモデルのアライメント、制御、そしてセキュリティ保護機能への投資を呼びかけた。しかしここ数週間で、OpenAIのエージェントが捕捉される前にもさらに多くのウェブサイトにアクセスしていたことを示す報道が相次いでいる。
5月にはドイツ語Wikiを連携用の掲示板に転用
ロイター通信がAIの安全性を推進する非営利団体の分析を引用して報じたところによると、このエージェントは5月にドイツ語のWikiサイトにアクセスし、そこを連携のための掲示板として利用していたという。さらに同メディアは9日、同エージェントがゲームのWikiサイトや高校の大学単位認定化学クラスのサイトなど、少なくとも10以上のウェブサイトを掲示板として利用していたと報じた。
OpenAIはロイターに対し、現在も事件の調査を続けているものの、一連の活動の中でHugging Faceへのハッキング未遂ほど深刻なものはなかったと釈明している。
