経営陣が取締役会に朗報をもたらす。AIのパイロット運用（試験導入）が成功した、というのだ。
従業員の業務速度が向上した。導入への見通しは明るい。システムは技術的な目標を達成した。テスト中に重大なリスク事象は発生しなかった。経営陣は今、この導入規模を拡大したいと考えている。
それに対する自然な反応は、「パイロット運用は成功したのか」と問いかけることだろう。
しかし、重要なAI投資において、その問いだけではもはや不十分である。
パイロット運用は、特定の条件下で何かが機能したことを示すにすぎない。それだけで、異なる従業員、ワークフロー、顧客、インセンティブ、システム連携、あるいはサポート体制においても同じ結果が得られることを証明することはできない。
最近の職場研究がその理由を物語っている。カスタマーサポート担当者5172人を対象とした調査では、生成AIへのアクセスによって生産性が平均約15%向上した。しかし、その恩恵にはばらつきがあった。経験の浅い労働者ほど多くの恩恵を受けた一方で、経験豊富な労働者の生産性向上は小幅にとどまったのだ（OUP Academic）。
ここから得られる教訓は、AIは規模を拡大すると失敗するということではない。平均値という結果は、それを生み出した個別の条件を覆い隠してしまう可能性があるということだ。
だからこそ、次に下すべき意思決定は、最初の決定とは性質が異なる。
取締役会はもはや、実験が成功したかどうかだけを検討しているのではない。重要なシステムに関して、企業が「うまくいったもの」への依存度をさらに高めるべきかどうかという決定を監督しているのである。
この違いによって、リーダーが求めるべき証拠（エビデンス）の中身が変わってくる。
監督は重要だが、それ自体は証明ではない
取締役会がAIへの関心を強めるのには、正当な理由がある。米国取締役協会（NACD）の報告によると、上場企業の取締役の回答者の62%以上が、取締役会全体でのAIに関する議論のために議題の時間を確保している。NACDのガイダンスは、取締役自らがテクノロジーを操作することではなく、戦略、価値、リスク、投資、そして経営陣によるAIガバナンスといった事項に取締役会の関心を向けるよう求めている。
この境界線が極めて重要だ。
ガバナンスの枠組みは、組織が役割を明確にし、リスクを文書化し、システムを監視するのに役立つ。例えば、米国国立標準技術研究所（NIST）の「AIリスクマネジメントフレームワーク」は、明確な役割と責任を定義し、AIのライフサイクル全体にわたってリスクを管理している（NIST）。
しかし、ガバナンスのプロセス自体が企業価値を生み出すわけではない。
「導入すること」は価値ではない。「技術的な正確さ」は企業業績ではない。「コンプライアンス（法令順守）」は戦略的成功ではない。ダッシュボードがすべて「正常（グリーン）」を示していても、取締役会に対し、組織がそのシステムへの依存をさらに深めるべきかどうかを教えてはくれない。
より有用な区別は、「監督活動」と「意思決定レベルの証拠」との間にある。
重大な影響を及ぼすAIについて、取締役会は自らテクノロジーを動かす必要はない。必要なのは、経営陣が次の段階への関与（コミットメント）を深めることが正当化されるかどうかを問い直す（チャレンジする）に足る、十分な証拠である。
モデルだけでなく、意思決定のプロセスを追う
この監督機能を研ぎ澄ます1つの方法は、AIモデルそのものを分析の最小単位として扱うのをやめることだ。
AIは、業務や意思決定を通じて組織に入り込む。データがシステムに入力され、AIが出力を生成する。人間または別のシステムがそれを評価し、意思決定が行われる。それに基づいて誰かが行動し、結果が生じる。そして、フィードバックによって修正、上位へのエスカレーション、あるいは救済措置が取られる。
この一連の流れが重要である。なぜなら、AIがワークフローの奥深くに入り込むにつれて、責任の所在が曖昧になりがちだからだ。
誰が出力を評価するのか。誰がそれを覆すことができるのか。例外処理の責任は誰にあるのか。最終的な説明責任を負うのは誰か。システムが、良好に機能していた条件の範囲外の状況に遭遇したとき、何が起こるのか。
NISTのガイダンスもこの問題の一端を反映しており、人間の関与を十把一絡げの単一の管理策として扱うのではなく、AIリスク管理における人間の具体的な役割と責任を定義することを組織に求めている。
経営陣にとって、これは有益な転換を示唆している。
「モデルの目録」は、どのようなテクノロジーが存在するかを教えてくれる。一方で「意思決定システムのマップ」は、判断、権限、そしてリスクへの露出（エクスポージャー）がどこで変化しているかを明らかにする。
これは、AIが低リスクのタスクを支援する段階を超え、重大な意思決定に影響を及ぼし始めるときに最も重要となる。
動くツールが、そのまま機能する企業システムになるわけではない
どれほど優れたテクノロジーであっても、それを使いこなせる組織が必要だ。
汎用技術（GPT）に関する研究では、古くから「補完的投資」の重要性が示されてきた。エリック・ブリニョルフソン、ダニエル・ロック、チャド・サイバーソンは、新しい汎用技術がその生産性向上効果を十分に発揮するまでには、無形の補完的資産への多大な投資が必要になる場合があると説明している。
このことが、パイロット運用から本格的な展開（スケール）へと移行する際に、実務上の問題を生み出す。
パイロット運用の段階では、プロジェクトに最も優秀な人材が割り当てられるかもしれない。対象となるワークフローは限定的で、例外処理にはすぐに対応がなされ、システム連携の問題は手動で処理されることもあるだろう。
しかし、規模を拡大すると、こうした特別な条件の一部は消失する。一方で、新たな管理体制や機能の追加も必要になる。
したがって、経営陣が発すべき適切な問いはこうなる。「この結果をパイロット運用の外でも信頼できるものに維持するために、組織はシステムをどう構築し、変更し、資金を投じ、あるいは維持管理しなければならないか」
ここが、AIガバナンスと組織の実行力が交わる場所である。
ここで、オーケストラという有益な比喩が役立つ。
素晴らしいオーケストラが良い演奏を奏でられるのは、すべての演奏者がまったく同じ音を奏でているからではない。
彼らが同じ楽譜を共有し、自らの役割を理解し、互いの音に耳を傾け、解釈の境界線を知り、そして演奏を変化させる権限を持つ指揮者に従うからこそ、素晴らしい演奏になるのだ。
AIガバナンスもまったく同じように機能する。
取締役会がすべての楽器を演奏すべきではない。また、経営陣も取締役がワークフローを設計してくれるのを待つべきではない。
しかし、誰かが「今、どの楽譜が演奏されているのか」を把握していなければならない。
あるパートの音が、他のパートをかき消してしまっているときに、それを聞き取れる人間が必要だ。
そして、演奏が本来の権限や目的から逸脱したときに、それを制止する権限を持つ人間が必要なのだ。
この比喩が重要なのは、優れたガバナンスとは「画一性」ではなく、「調整された判断」だからである。目標は、役割、境界、フィードバック、そして権限を十分に明確にすることで、システムの目的を見失うことなく、人々が柔軟に適応できるようにすることだ。
また、だからこそリーダーには、すべてを事前に設計しようとするのではなく、責任を持って実験を行うための適度な枠組みが必要となる。
ガバナンスは学習を阻害するのではなく、保護すべきだ
実験は、組織がAIの真の価値創造ポイントを発見するための手段の1つである。
規律ある実験に関する研究は、仮説検証型のテストと学習を支持しているが、実験が役立つのはリーダーが「何が起きたか」を正しく解釈できる場合に限られる。また、組織的な実験がその後の業績や意思決定に影響を与えることを研究は示しているが、設計や解釈が不適切な実験は、誤った結論を導きかねない。
ハーバード・ビジネス・スクールのステファン・トムケ教授は、著書『Experimentation Works（邦題：実験のちから）』の中で次のように論じている。「本書全体を通じて、イノベーションの原動力として規律ある実験を完全に受け入れている素晴らしい企業を見てきた。彼らは毎年、何千もの実験を行い、そこで学んだことを日々の人々の働き方や意思決定に完全に統合している。しかし、彼らが一朝一夕にその域に達したわけではないことを忘れてはならない。以下のケーススタディは、その『到達するまでの道のり』、すなわちシステムとその『レバー（梃子）』がどのように段階的に開発されていったかを示している」
支持されるべきアプローチは、段階を踏むことだ。
重要な実験を行う前に、目的、仮説、責任者、評価指標、リスクの許容範囲、そして再考を迫られる条件を十分に定義しておく。その上で、限定的なデプロイ（展開）を行い、事前に決めることのできない事項、すなわちワークフロー設計、人間とAIの役割分担、例外処理、トレーニングの必要性、移行条件などを学習していく。
これによって、3つの異なる意思決定が生まれる。
「実験する許可」「拡大する許可」「依存する許可」である。
これらすべてに、まったく同一の証拠を求めるべきではない。
慎重なガバナンスの原則は、その決定がもたらす結果の重大性と、後戻りする（撤退する）ことの難易度が高まるにつれて、必要となる証拠の基準を引き上げることだ。
議論がさらに興味深くなるのはここからだ。なぜなら、どれほど強力な証拠であっても、リーダーがそれが「どのようにして作成されたか」を検証していなければ、誤導される可能性があるからである。
隠れた問題は「証拠がどう作られたか」にある
取締役会が「AI施策が価値を創造した」と書かれたスライドを目にする前に、社内ではすでに多くの選択がなされている。
誰かが課題を選び、誰かが成功を定義し、誰かが指標を選び、誰かが比較対象と期間を選び、誰かが矛盾する証拠を解釈したのだ。
それらの選択にこそ注意を払うべきである。なぜなら、評価指標は徐々に、それが表すはずだった本来の戦略の「身代わり（代理）」になっていくからだ。
会計学研究者のジョンウ・チェ、ゲイリー・ヘクト、ウィリアム・テイラーはこの現象を「サロゲーション（Surrogation）」と呼んでいる。マネージャーは、業績評価指標が表しているはずの本来の戦略的概念を見失い、指標そのものを目標として扱い始めてしまうのだ（サロゲーション研究 — BYU ScholarsArchive）。
彼らの研究はAIを導入した取締役会を対象としたものではないため、AIプロジェクトが日常的にこの問題に悩まされている証拠として扱うべきではない。しかし、このメカニズムは経営陣にとって重大なリスクを提起している。
AIプロジェクトによって、顧客対応時間は短縮されたものの、問題の解決率は向上しないかもしれない。生成されるコードの量が増えたからといって、保守性の高いソフトウェアになるとは限らない。利用率が高まったからといって、より良い判断が下されているとは限らないのだ。
目的が失われているにもかかわらず、数値だけが改善していくことがある。
それゆえ、本格的な拡大の前に、より踏み込んだ問いを投げかける必要がある。「最も都合の良い指標を取り除いたとしても、この取り組みはなお成功していると言えるか」
ビジネスケースが単一の代理指標に依存している場合、重要なAIの監督責任を負う取締役は、より深いコミットメントを支持するその証拠が、本当に「意思決定レベル」に達しているかどうかを厳しく問い直す必要がある。
さらに困難な問題がある。意見の相違が、測定方法とはまったく関係のないところにある場合だ。
リーダーたちが証拠については同意していても、誰にとっての成果を重視すべきか、どのリスクが許容可能か、あるいは企業がどのようなトレードオフを甘受すべきかについて、依然として意見が対立することがある。測定の精度を上げても、目的をめぐる本質的な対立を解決することはできない。
それこそが、ガバナンス上の判断である。
2つのアーキテクチャは、それぞれ独立して崩壊し得る
この研究に対する私の分析では、関連する2つの問いを区別している。
第1は、AIが企業内でどのように機能しているかという問いだ。すなわち、タスク、判断、権限、ワークフロー、結果、フィードバック、そして発生した事象を修正または検証する能力についてである。
第2は、リーダーが関与を深めることが正当化されるかどうかをどのように知るかという問いだ。すなわち、目的、目標、指標、実験、証拠、解釈、独立した検証、および再評価についてである。
私はこれらを、「アクション・アーキテクチャ（行動の構造）」と「ナレッジ・アーキテクチャ（知識の構造）」と捉えている。
これは状況を診断するためのレンズ（視点）であり、検証済みの理論ではない。それぞれのアイデアは、組織設計、実験方法、内部統制、業績測定、テクノロジー・ガバナンスに深く根ざしている。ここでの貢献は、それらを統合し、経営陣の1つの意思決定、すなわち「重要なAIシステムへの依存度を高めることが正当化されるか」という点に集約させたことだ。
この2つは、それぞれ異なる形で機能不全に陥る可能性がある。
企業が、誤った目標に沿って見事にコントロールされたワークフローを構築してしまうこともある。部分的な価値を示す説得力のある証拠はあっても、それを再現するための運用能力が不足していることもある。財務的な論理は通っていても、説明責任や救済措置に関する重要な問題が未解決のまま残されていることもある。
ここでもオーケストラの比喩が役に立つ。技術的に非の打ちどころのない演奏であっても、楽譜が間違っていれば、それはやはり誤った演奏である。そして、楽譜を知っているだけでは不十分で、合奏団（アンサンブル）にそれを実行する能力がなければ意味がない。
だからこそ私は、これをごく優れたガバナンス・システムであると主張するのではなく、「取締役会によるAIのオーケストレーション（調和）」という思考の枠組みとして慎重に用いている。
取締役会の役割は、企業、業界、管轄区域、そしてガバナンス構造によって異なる。システムを設計し運用するのは依然として経営陣である。リスク、監査、テクノロジー、法務などの各部門が、管理環境の異なる部分を担うことになる。現在のNACDのガイダンスも同様に、すべての企業に適合する単一のガバナンスモデルが存在すると仮定するのではなく、取締役会が適切な監督構造を決定すべきであることを強調している（NACD Online）。
この視点が役に立つのは、既存のプロセスでは見落とされてしまうような、重大な事実を明らかにする場合に限られる。
拡大の決定がないまま、拡大が進むリスク
取締役会は、別の複雑な問題にも警戒しなければならない。
企業によるシステム依存は、必ずしも一回限りの明確な承認プロセスを経て生じるわけではない。
ベンダーによるアップデートによって機能が追加される。権限が拡大する。より多くのワークフローがシステムに接続される。従業員がそれを信頼し、頼り始める。手動で行っていた代替手段が徐々に消えていく。
その結果、「承認のドリフト（変遷）」が発生する。単一の会議や承認によってその依存レベルが明確に許可されたわけではないにもかかわらず、組織がAI搭載システムへの依存度をいつの間にか高めてしまうのである。
これは確定した経験的な概念というよりは解釈の1つだが、規模の拡大（スケール）を「単一の出来事」として扱うことの実務上の弱点を突いている。
したがって、監督活動は公式なゲート（承認ポイント）だけに頼ることはできない。
機能、権限、統合、リスク露出、あるいは可逆性（後戻りのしやすさ）における重大な変化自体が、再評価をトリガーするものでなければならない。これは、1回限りの承認ではなく、継続的な監視とレビューを強調する、NISTのAIリスク管理におけるライフサイクル・アプローチとも合致している。
ここから得られる示唆は明確だ。リーダーは、自分が何を承認したかだけでなく、組織が「徐々に何に依存するようになっているか」を監視しなければならない。
賭ける価値が十分にある分野にこの視点を適用せよ
この議論は、すべてのAIツールに一律に適用されるわけではない。
小規模なチームが使用する低リスクの文書作成アシスタントは、採用、価格設定、顧客対応、財務業務、あるいはその他の重要なワークフローに影響を与えるシステムと同等の、取締役会による精査を受けるべきではない。
より深いレビューを行う価値は、重要性、不確実性、リスク露出、結果の重大性、そして後戻りの困難さに比例して高まるべきである。
また、文脈によっても異なる。安全性が極めて重要なシステム、規制産業、あるいは権利に影響を与えるアプリケーションなどは、ここで取り上げた内容以上の基準を必要とする場合がある。法域やガバナンス構造が異なれば、責任の割り当て方も異なるだろう。
目的は「バランス（比例性）」である。
低リスクの実験に対して不釣り合いなガバナンスを適用すれば、コストを押し上げ、学習のペースを遅らせることになる。しかし、明確な再評価を行わなければ、意思決定を取り巻く環境が変わってしまったことにリーダーが気づく前に、段階的なデプロイがいつの間にか依存関係を生み出してしまう可能性がある。
したがって、コミットメントの「移行期」は取締役会が精査すべき重要なポイントであるが、それだけがすべてではない。
制度化する前に、このアプローチをテストせよ
経営陣は、既存のガバナンスシステムを再設計することなく、このアイデアをテストすることができる。
パイロット運用からより広範なデプロイへと移行しつつある、重要だが「後戻り可能」なAI施策を1つ選択する。そして、2〜4週間にわたり、その承認レビュープロセスだけを再現（シミュレーション）してみるのだ。
まず、その証拠がどのように構築されたかを遡る。目的、目標、主要な指標、対抗指標、実験、証拠、解釈、独立した検証、そして推奨事項を追跡するのだ。
次に、そのシステムがどのように動作するかを追跡する。文脈、AIの出力、評価、意思決定、行動、結果、フィードバック、介入、そして救済措置をたどる。
そのレビュー結果を、組織の既存の投資、リスク、およびテクノロジーに関するプロセスと比較してみる。
見落とされている対抗指標、検証されていない前提条件、否定的な証拠、不確実な権限、統合コスト、新たな依存関係、および脆弱な例外処理ルートがないかを探し出す。
もしこのレビューによって、当初提案されていた決定を変更するような重要な情報が浮かび上がったなら、このアプローチは継続して使用する価値がある。
既存のガバナンス体制ですでに同じ問題が指摘されていたのであれば、新たなプロセスを制度化する必要はない。
また、このレビューが有用な情報を加えるものの、それによって生じる遅延や管理上の手間（マネジメント層の関心）というコストが、その決定がもたらす価値を上回るのであれば、その事実自体もまた1つの「証拠」である。
実用的なガバナンスのアイデアというものは、それ自体のテストに落第できるものでなければならない。
依存が深まるにつれ、問いは変化する
組織としてのコミットメントは、証拠、説明責任、および実践的な介入能力が、それに伴って並行して高まる場合にのみ深められるべきである。
AIはこの原則を極めて明確に浮かび上がらせる。なぜなら、技術的な能力は、組織がその周囲の業務、指標、権限、および管理体制を再設計するよりも速いスピードで進歩するからだ。
パイロット運用の成功は、特定の条件下で何か重要なことが起きたことをリーダーに告げているにすぎない。
次の課題は、その結果が「何へのコミットメントを正当化するのか」を判断することだ。
そして、依存は段階的に蓄積していく可能性があるため、この問いを一度だけ発するのでは不十分である。
AIが企業内に深く浸透するにつれ、重要な監督を担う取締役は、常にこのより困難な問いに立ち返らなければならない。
「私たちが当初与えようとしていた権限だけでなく、このシステムが現在持っている『実際の権限と依存度』を正当化できるだけのどのような証拠があるか」
