マイクロソフトのサティア・ナデラ会長兼最高経営責任者（CEO）が、AIを導入する企業自身に安全管理の責任を求めた。AIモデルの開発元が安全だと説明していても、導入企業はAIの動きを監視し、必要なら作業の途中で停止できる仕組みを備えるべきだという。
ナデラは米国時間の2026年10月10日、ブログに「スーパーインテリジェンス時代における内部リスクとしてのモデル」を公開した。対象は、最先端の高性能AIであるフロンティアモデルだ。開発企業が内部を公開しないクローズド型でも、学習済みの重み（ウェイト）を公開するオープンウェイト型でも、安全対策の考え方は変わらない。ブルームバーグは、高度なAIに「非常ブレーキ」を備えるよう求めた主張だと要約した。
ナデラが念頭に置くのは、重要な社内システムへアクセスできる従業員と同じ種類の「内部リスク」である。高い能力や権限を持つAIでも、操作を誤ったり、不正に利用されたりする可能性がある。悪意があるかどうかに関係なく、システムは危険な動作を防げる設計でなければならない。「モデルが侵害されていると想定し、最初から封じ込めなければならない」とナデラは書いた。権限を与えられた人が作業途中でもAIを一時停止・停止できる仕組みを、非常ブレーキになぞらえている。
AIの権限と停止機能はモデルの外へ、7原則に共通する3つの考え方
ナデラはAIを安全に利用するための7原則を示した。企業が実際に用意すべき仕組みとして整理すると、中心になるのは権限の管理、行動の記録と独立した検証、事故を想定した備えの3点だ。
（1）AI自身に操作権限を決めさせない
AIがどの社内システムにアクセスし、どの操作を実行できるかは、導入企業が決める必要がある。権限を制限する仕組みはAIモデルの外部に置き、モデル自身には変更させない。AIの作業順序や外部ツールの利用を管理する「ハーネス」と、判断や文章生成を担うモデルも分離する。
ナデラは、1970年代から使われてきた情報セキュリティの考え方を踏まえている。リファレンスモニターと呼ばれる仕組みで、システムへのアクセスが発生するたびに権限を確認し、検査を迂回したり仕組み自体を改ざんしたりできないようにするものだ。
（2）AIの行動記録と検証を、AI自身に任せない
業務に影響する重要な操作はすべて、人間が確認でき、AIにも改ざんできない記録として残す。問題が起きた際には、AI自身の説明を信用しなくても、記録から何が行われたかをたどれるようにする。重要な業務の成否を単一のAIモデルだけに依存させず、そのモデルに自分の作業を検査させることも避けるべきだという。検証する側は、検証対象のAIから独立していなければならない。
（3）事故を想定してテストし、影響を受けた人に知らせる
攻撃を受けた場合や例外的な状況、システムが正常に動かない場合を想定し、継続して安全性を試験する。問題が起きれば、どの安全対策が機能しなかったかも含め、影響を受けた人へ速やかに知らせる。
ナデラは、AIが判断する過程を人間に読める形で示す「思考の連鎖（CoT）」も不可欠だと考える。ただし、AIが示した説明が実際の判断過程を正確に反映しているとは限らず、それだけでは安全を保証できない。別のAIに監視を任せても、中身の見えないシステムを重ねるだけになりかねない。
