AIエージェントがパイロット運用（試験導入）で優れたパフォーマンスを示したとする。
そのエージェントは関連情報を分析し、有用な推奨事項を提示し、承認された境界線の中で動作する。こうした強力な成果を踏まえれば、エージェントの責任範囲を拡大することは合理的に思えるかもしれない。
たとえば、エージェントの役割が「取引の推奨」から「取引の実行」へと移行する。読み取り専用のアクセス権が書き込み権限へと拡張される。適用範囲が1つのアプリケーションから複数へと拡大する。人間の監視が「すべての行動を承認する」ことから「例外のみをレビューする」ことへと移行する、といった具合だ。
基盤となるAIモデルは変わっていないかもしれない。
しかし、重要なあるものが変わっている。
それは「権限（オーソリティ）」だ。
これが重要なのは、エージェントがある業務をこなせるという証拠が、より重大な結果をもたらす業務を任せる準備ができていることを示すには不十分な場合があるからだ。
「成功」が実際に証明したのは何か？
成功という結果は、そこに至るすべての要因やプロセスを明らかにするわけではない。
「Near-Miss」と呼ばれる2026年の研究では、状態を変える（state-changing）ツール呼び出しを行うAIエージェントの軌跡を調査した。研究者らは、エージェントが本来行うべきポリシーチェックを実行しないまま、期待される最終状態に到達したケースを発見した。研究者らは、調査した軌跡の8%から17%において、こうした潜在的な失敗（レイテント・フェイラー）があったと報告している（ArXiv）。
この数値は特定の航空業界のベンチマークに基づいており、企業向けAIエージェントによるポリシー違反の頻度をそのまま反映しているわけではない。
しかし、この発見は評価・測定における問題を浮き彫りにしている。結果だけに注目していても、エージェントが正しいプロセスに従ったかどうかは確認できないということだ。
言語エージェント向けの別のベンチマークである「SOPBench」は、エージェントが複数のドメインにわたって標準作業手順（SOP）や制約事項に従っているかを評価することで、この区別の重要性を裏付けている（GitHub）。
経営幹部にとって、これは「成功したAIを信用すべきではない」という意味ではない。
むしろ、「エージェントが成功した」という言葉は、保証の言明としては不完全だということだ。
具体的に何の証拠なのか。タスクのパフォーマンスか、プロセスの品質か、ポリシーへの準拠か、それとも、より広範な権限に対する準備が整っていることなのか。
「成功」が信頼を高めるべき場合と、そうでない場合
組織は、成功した成果を学習の機会として活用すべきだ。
人間と自動化技術とのインタラクションに関する研究では、信頼と依存の関係が長年にわたり調査されてきた。ジョン・リーとカトリーナ・シーは、単に信頼を最大化または最小化するのではなく、「自動化技術への適切な依存」をゴールとして位置づけた（PubMed）。
エージェントが、繰り返される代表的な条件下で信頼性高く動作するのであれば、リーダーシップはそれに応じて信頼度を調整すべきだ。強固な証拠に基づいて意思決定を行う必要がある。
一方で、「結果バイアス（outcome bias）」に関する研究は警鐘を鳴らしている。ジョナサン・バロンとジョン・ハーシーは、結果が良好である場合、人々は（プロセスや意思決定自体が同一であっても）その意思決定をより好意的に評価してしまう傾向があることを発見した。
ただし、この研究は、経営幹部がAIの試験運用に成功した後に不注意になるとか、ガバナンスチームが肯定的な結果を得た後に検証を怠るようになると示しているわけではない。
より本質的な問いは、「私たちの信頼が、それを裏付ける証拠を超えてしまっていないか」ということだ。
この問いは、エージェントの責任範囲が変わる瞬間に最も重要となる。
AI自体は変わっていなくても、権限が変わった
2つのエージェントを考えてみよう。
1つ目のエージェントは、購買内容を分析し、それを進めるべきかどうかを推奨（レコメンド）する。
2つ目のエージェントは、同じ購買内容を分析するが、承認、企業記録の変更、サプライヤーへの連絡、そして取引の実行までを行うことができる。
両者は同じモデルを使用しているかもしれない。
同じデータを処理しているかもしれない。
同じ推奨事項を生成する可能性さえある。
しかし、潜在的な影響範囲が異なるため、これらがもたらすガバナンス上の課題はまったく別物だ。
認可（Authorization）とアイデンティティ（ID）は、現在、AIエージェントの標準化と研究における明示的な領域となっている。2026年2月に立ち上げられた米国国立標準技術研究所（NIST）の「AIエージェント標準化イニシアチブ」では、エージェントが外部システムや内部データとやり取りする際の優先事項として、エージェントのセキュリティとアイデンティティを挙げている（NIST）。
組織論の研究も、有用な区別を提示している。経済学者のフィリップ・アギオンとジャン・ティロールは、決定を下す権利である「公式権限（formal authority）」と、決定に対する実質的な支配力である「実質権限（real authority）」を区別した（RCNI Company Limited）。
AIへのアナロジーは慎重に適用されるべきだが、この概念は重要な区別を浮き彫りにしている。
技術的なアクセス許可、組織的な権限、および実質的な支配力は、それぞれ異なる概念である。
あるエージェントがツールを呼び出す技術的な許可を持っていたとしても、あらゆる状況においてその機能を使用する組織的な権限を与えられているとは限らない。「意図に基づき統制された認可（intent-governed authorization）」に関する最新の研究は、この問題の技術的な側面を示している。静的な資格情報（クレデンシャル）は、ユーザーが要求した範囲を超える特定の行動であっても、ツールの呼び出しを許可してしまう可能性があるのだ。
経営幹部は、より的を絞った問いを投げかけるべきだ。「このAIは、以前は不可能だったどのような新しい結果を、今やもたらすことができるようになったのか」と。
「古い証拠」は正しいままであっても、不十分になる
この段階において、安全工学で確立された概念がAIガバナンスにとって有用になる。
安全管理や保証（アシュアランス）の分野では、保証とは主張（クレーム）、証拠（エビデンス）、前提条件（アサンプション）、および動作条件によって裏付けられるものとして長年扱われてきた。セーフティケース（安全性の論証）の維持に関するトーマス・ケリーとジョン・マクダーミッドの研究は、設計、証拠、あるいは要件の変更が、組織に以前の安全性の議論の再評価を要求することを示している（ScienceDirect）。
その原則は、AIのために考案されたものではない。
だからこそ、この原則に価値があるのだ。
例えば、あるエージェントが推奨システムとしてテストされたとする。人間の承認は必須であり、エージェントは読み取り専用のアクセス権を持ち、そのアクションは単一のシステムに限定されていた。
その展開から得られた証拠は、極めて優れているかもしれない。
ここで組織が、同じエージェントに書き込みアクセス権を与え、日常的な取引からの承認ステップを排除し、複数の企業アプリケーションに接続したとする。
過去に得られた証拠が、突然誤りになるわけではない。
そうではなく、リーダーシップは今、より広範な主張を裏付けるための証拠を求めている状態なのだ。
エージェントが適切な購買を確実に推奨するという証拠は、自律的購買の実現を支持する材料にはなるかもしれない。しかし、そのエージェントが関連するすべての権限制限、例外ルール、管理要件、そして下流の依存関係の範囲内で購買を実行することを、それ単独で証明するわけではない。
これは、エージェント型AIガバナンスにおける重要な原則を導き出す。すなわち、「証拠は与えられた権限のレベルと一致していなければならない」ということだ。
何が権限の変更を「重大」にするのか？
新しいアクセス許可がすべて権限を大きく変化させるわけではなく、すべての変更に新しいガバナンスプロセスが必要になるわけでもない。
権限の変更がより重大となるのは、システムの潜在的な影響、その行動がもたらす結果、あるいは既存の保証を裏付ける条件が変化する場合である。
以下の移行パターンの違いを考えてみてほしい。
同一のルールと管理のもとで、1000件の取引処理が1万件に増える場合。
- 「推奨」が「実行された取引」に変わる。
- 「読み取りアクセス権」が「企業記録を修正する権限」に変わる。
- 「単一のアプリケーション」での動作が「複数のシステムにまたがる一連のアクション」に変わる。
- 「取り消し可能なアクション」が「取り消すことが困難な確約」に変わる。
- 「必須とされていた人間の承認」が「自律的な実行」に変わる。
最初の変更は主に規模（スケール）を拡大させるだけかもしれない。しかしその他の変更は、保証に関する問いそのものを変えてしまう。
いつその境界線を越えたのかをすべての組織に示す、普遍的な基準値（しきい値）は存在しない。
結果の重大性、取り消し可能性、システム依存関係、規制、および既存の管理体制が極めて重要となる。
これにより、重要なガバナンス上の責任が生じる。すなわち、提案された変更が再評価を必要とするほど「重大」であるかどうかを、誰かが判断しなければならないということだ。
組織によっては、その判断は事業責任者とAIガバナンスチームに委ねられるかもしれない。また別の組織では、セキュリティ、リスク管理、法務、内部監査、あるいはシステム所有者が関与する必要があるかもしれない。
体制は多様であっても、決定権限は明確に定義されていなければならない。
すべてではなく、「何が変わったのか」を再評価する
したがって、私の提案は的を絞ったものだ。
AIに大きく異なる意思決定や実行権限が与えられる場合、リーダーシップは、既存の証拠、前提、管理体制が新しい認可を依然としてサポートしているかどうかを評価すべきである。
実践的なレビューは、次の7つの問いから始めることができる。
- 私たちは実際に何を確立したのか？ 現在の証拠によって裏付けられている主張について正確に把握する。
- このAIは、以前はできなかったことで、今は何ができるようになったのか？ 単なる能力だけでなく、結果を伴う決定や行動に目を向ける。
- 何が重大に変更されたのか？ アクセス権限、システム、人間の監視、依存関係、結果の影響度、および取り消し可能性を考慮する。
- どの証拠がまだ有効なのか？ 関連性を失っていない証拠を維持する。
- 何が未証明のままなのか？ 拡大された権限によって、新たに証明しなければならなくなった事項を特定する。
- 管理体制は引き続き有効か？ 管理体制が存在していること自体が、その継続的な有効性を保証するわけではない。
- どのような重要な相互作用が、依然として想定外の事態を引き起こし得るか？ 慎重にレビューを行った後でも、ある程度の不確実性は残る。
目的は、ガバナンスを「最大化」することではない。
ゴールは、必要最小限の再検証を行うことだ。
これが重要なのは、新しいガバナンス層を常に追加する必要があるとは限らないからだ。既存の変更管理、セキュリティ、あるいはアシュアランスのプロセスがすでにこれらの課題に対処している場合、承認ステップを増やすよりも、それらのプロセスを強化する方が効果的かもしれない。
これは単なる「優れたアシュアランス工学」ではないのか？
これは、この主張に対する最も強力な反論（異議申し立て）だろう。
安全工学、サイバーセキュリティ、構成管理、およびシステムアシュアランスは、重大な変更が再評価を必要とし得ることをすでに認識している。成熟した企業であれば、まさにそれを実行するために設計されたプロセスをすでに備えているかもしれない。
その批判は実質的に正しい。
この議論は、より具体的な貢献を加えるものだ。
AIがより「エージェント型（自律型）」になるにつれて、結果を伴うマシンの権限変更自体が、モデルやベンダー、アプリケーションが変わっていなくても、その重大性をテストする価値のある変更となり得るのだ。
これは確立されたアシュアランスの考え方を経営陣向けに独自に応用したものであり、その基礎となる原則が新しいと主張しているわけではない。
テクノロジーの大部分が変わっていないように見えても、エージェントは重要なガバナンスの境界線を越えることがある。
- 「推奨」が「決定」に変わる。
- 「読み取り」が「書き込み」に変わる。
- 「内部分析」が「外部通信」に変わる。
- 「単一システム内での活動」が「システム横断的な実行」に変わる。
- 「人間の承認」が「自律的なアクション」に変わる。
これらの移行は、本質的に危険なわけではない。また、そのすべてが同じレビューを必要とするわけでもない。
しかし、これらの移行は、組織がその証拠や管理体制に何を裏付けさせるべきかという要求を変化させることがある。
管理体制は残っていても、実質的な制御は変化する
同じロジックが管理体制（コントロール）にも当てはまる。
ワークフロー図の上では、人間の承認ステップがまだ存在しているように見えるかもしれない。しかし、人間がその取引を目にする前に、エージェントが結果を伴ういくつかのアクションを実行できてしまうとしたらどうだろうか。
管理体制は依然として存在しているかもしれないが、その有効性は変化している可能性がある。
ログ記録は維持されていても、意思決定者が介入するために必要な可観測性が得られないかもしれない。
人間が「イン・ザ・ループ（監視の輪の中）」に留まっていても、有意義なコントロールを実行するのに十分なコンテキスト（文脈）や時間が与えられていないかもしれない。
したがって、単に「管理体制がまだ整備されているか」を問うだけでは不十分である。
そうではなく、「これらの管理体制は、現在認可されているシステムを依然として効果的に制約できているか？」と問うべきなのだ。
検証には限界がある
これを単なるチェックリストにすべきではない理由は、ほかにもある。
いくつかの不確実性は、展開前に解決できる。ポリシーをテストする、権限を絞り込む、アクションをログに記録する、ランタイムルールによって危険な実行をブロックまたは転送する、といった方法だ。「AgentSpec」などの実験的研究は、ランタイムでの強制適用が、制御された環境下で不安全なエージェントの行動を抑制できることを示唆している（ArXiv）。
しかし、システム研究は、リーダーが引き続き慎重であるべきことも示唆している。
複雑で緊密に結合されたシステムに関するチャールズ・ペローの研究は、予期しにくい相互作用を通じていくつかの障害が発生し得ることを主張している。一方で、高信頼性組織（HRO）やレジリエンスに関する研究は、組織がどのように複雑なシステムを管理できるかについて、より楽観的な見解を提供している。
この視点の違いは貴重だ。
それは、検証（認証）と設計（アーキテクチャ）が、異なる種類の不確実性に対応していることを示唆している。
合理的に特定し、テストできたはずの要件であれば、リーダーシップが抱えているのは「検証（確認）」の問題かもしれない。
予見が困難だった相互作用から重大な動作が生じる場合、組織は運用中のより強力な可観測性（オブザーバビリティ）、封じ込め、取り消し可能性、および介入手段を必要としている可能性がある。
承認ゲートを通過するだけでは、すべての形態の不確実性を排除することはできない。
1つの権限決定でこのアイデアを試す
経営幹部はこのアイデアを試すために、ガバナンス体制を再設計する必要はない。
現在、権限拡大を検討しているエージェントを1つ選んでみてほしい。
現在の承認済み設定と、提案されている設定を並べて配置する。
エージェントが何を決定できるか、どのシステムを変更できるか、どのリソースをコミットできるか、人間がどこで介入するか、人間がどのくらい迅速に介入できるか、そしてアクションをどれほど容易に取り消せるかを比較する。
そして、現在の展開を裏付けている証拠を、次の3つのグループに分類する。
- 現在も適用できる証拠。
- 特定の前提が真である場合にのみ適用される証拠。
- 新しい認可の問いに答えていない証拠。
- 管理体制（コントロール）についても同様の作業を行う。
提案された権限が、既存の保証をサポートする条件を重大に変更する場合、比較によって再検証が必要な何かが明らかになるはずだ。
この演習は、独立した変革プログラムとしてではなく、通常の承認プロセスの一環として実行すること。
有効な尺度となるのは、新しく作成された管理体制の数ではない。このレビューによって、通常のプロセスでは見落とされていたかもしれない前提の変更、裏付けのない主張、あるいは弱体化した管理体制が特定されたかどうかである。
もし特定されたなら、自社のガバナンスプロセスについて何かを学んだことになる。
もし特定されなければ、それもまた有益な情報だ。現在の検証・保証プロセスがすでに効果的であることを示している。どちらの結果も、価値ある洞察をもたらす。
ガバナンスは権限の後に続く必要があるかもしれない
エージェントがアプリケーション間で動作し、外部と通信し、組織の状態を変更する能力を獲得するにつれて、企業はエージェントのガバナンス方法を継続的に洗練させていくだろう。
より大きな問題は、組織が成功したAIを信頼すべきかどうかではない。
成功したAIから学ぶべきだということだ。
しかし、成功から学ぶことと、より広範な権限を与えることは、それぞれ異なる決定である。
試験運用の成功は、テストしたシステムに関する問いに答えてくれる。一方、権限の拡大は、リーダーシップが自ら構築しようとしているシステムについて「回答を必要とする問い」そのものを変化させ得る。
これこそが、最も重要なガバナンスのシグナルが、必ずしもモデルの変更ではなく、権限の変更である理由だ。
最初の成功を拡大された権限の正当化に使う前に、リーダーシップは問うべきだ。「このAIの成功は実際に何を証明したのか。そして、その証拠は私たちが検討している新しい責任を裏付けているのか」と。
