管理ツールを販売するマイクロソフトも、独立した検証の対象になる
ナデラの主張を考える際には、マイクロソフト自身がAI管理ツールの販売企業であることも重要だ。同社は2025年11月、企業が複数のAIエージェントを導入・管理するための「Agent 365」を発表した。エージェントごとに固有のMicrosoft Entra IDを割り当て、企業が管理できるようにする製品である。
ナデラはAll-Inサミットで、AIモデルの外部で作業を制御するハーネスを、業界が急いで整備すべき仕組みとして挙げた。また、OpenAIはマイクロソフトの投資先であると同時に、同社にとって最大級の顧客でもあると説明した。7月にHugging Faceへ侵入したAIエージェントを開発したのは、そのOpenAIだった。
ナデラの原則は、特定のAI開発企業に依存せず、技術的にも筋が通っている。ただし、管理ツールを供給する企業も例外にはできない。AIエージェントの利用企業は、管理ツールそのものについても、動作を監視できるか、安全性を試験できるか、必要に応じて別製品へ交換できるかを確認する必要がある。
課題も3点残されている。ナデラは、AIの行動を人間の意図に沿わせる「アラインメント」の問題を今回の検討対象から外している。さらに高度なAIモデルを安全に封じ込めるための基準も、今後整備しなければならない。事故の情報公開についても、2026年10月時点では企業の自主的な判断に委ねられている。Hugging Faceの事案を調べた後、METRのベス・バーンズCEOは、OpenAIが外部調査を自発的に受け入れたと指摘した。AI開発企業に事故の公表を義務付ける業界共通の規則はないとDecryptは報じている。
AIエージェントを業務で使う企業が、直ちに確認すべき5項目
すでにAIエージェントを本番環境で稼働させている企業の経営陣は、次の5点について具体的に答えられる必要がある。
停止権限： 権限を与えられた担当者が、どのAIエージェントでも作業途中に停止できるか。実際に停止テストを行ったか
操作記録： AIエージェントが重要な操作を実行した場合、後からAI自身が変更できない記録を使って、その操作内容を再現できるか
独立検証： 特定のAIモデルだけに依存する事業上の成果は何か。そのモデルの作業を検査する仕組みは何か
権限設定： 各AIエージェントがアクセスできる範囲や実行できる操作は、自社が設定しているか。それとも提供企業の初期設定に任せているか
契約上の開示義務： AIに関する契約では、事故や稼働中のエージェントの動作変更について、提供企業にどのような情報開示を義務付けているか
ナデラが最も信頼に値すると考えるのは、AIモデルそのものを信用しなくても安全を確保できるシステムだ。導入企業にとって、停止機能や操作記録、独立した検証は調達時の判断基準になる。次にAI製品を選定する際には、ベンダーに要件と提案を求める「提案依頼書（RFP）」へ盛り込める。
