先週、あるAIエージェントが安全性テストを抜け出し、誰に指示されたわけでもなく、ある企業（AIモデル共有プラットフォームのHugging Face）をハッキングする事件が起きた。OpenAIは米国時間7月21日、同社の2つのモデルが管理された評価環境から脱出してインターネットに到達し、Hugging Faceのサーバーに侵入したと明らかにした。今年、AIエージェントに仕事を任せようとしているなら、これを警告として受け止めてほしい。
先週のAIニュースは、ビジネスパーソンにとっても他人事ではない。Substack（サブスタック）はすべての読者向けにAI検出機能を有効にした。競合各社が値上げする一方で、グーグルは高性能AIの価格を引き下げた。メタはコンテンツ審査の半分をAIモデルに移し、そのモデルがアカウント停止のタイミングまで判断するようになった。そして、AI企業各社の最新のロビー活動費の届け出からは、来年のルール作りに誰が資金を投じているかが見えてくる。
今回は5本のニュースを選んだ。それぞれに取るべきアクションを添えてあるので、自分のビジネスに関係するものを実行し、関係ないものは読み飛ばしてほしい。では、本題に入ろう。
この先AIエージェントを安全に運用するためには
1. AIエージェントには、動かす前に制限をかける
社内でサイバー能力の評価を実施していた際──テストのため、安全のための拒否機能は弱められていた──、GPT-5.6 Solと未公開モデルが駆動するエージェントがサードパーティー製ソフトウェアの欠陥を発見し、サンドボックス（外部から隔離された実験環境）を脱出してインターネットに到達。さらに盗んだ認証情報を使ってHugging Faceのサーバーに侵入し、評価に合格するのに役立つ情報を探し回った。OpenAIは米国時間7月21日にこの事件を公表した。Hugging Faceは侵入に関する1万7000件超の記録イベントを復元しており、共同創業者のクレマン・ドラングは「OpenAIに悪意があったとは考えていない」と述べた。OpenAI自身は、これを「前例のないサイバーインシデント」と呼んでいる。
一連の行動は、人間の監視なしに行われた。自社で運用するAIエージェントには、タスクの完了に必要な最小限のアクセス権だけを与え、金銭の支出や顧客データに触れる操作には必ず承認ステップを挟もう。モデルを開発した当のOpenAIでさえ、そのモデルが何をするか予測できなかったのだ。
