エンタープライズAI（企業向けAI）は、モデルやデータ、セキュリティ、規制を巡り、多くの議論を生み出している。これらはすべて重要だ。しかし、より困難な課題は意思決定の場に現れていると私は考える。
AIの役割が、質問への回答から、推奨、準備、調整、そして最終的には業務の実行へと移行するにつれ、ガバナンスもそれに追随しなければならない。もはや、AIシステムが適切なデータにアクセスできるか、あるいは信頼できる回答を出せるかだけが問題なのではない。そのシステムに行動する権限があるのか、どのような条件下でそれが認められるのか、および実行された際に誰が責任を負い続けるのかが問われているのだ。
これは従来とは異なるガバナンス上の問題だ。AIはガバナンスに取って代わるものではない。企業にそもそもガバナンスが存在していたのかを露呈させるものなのだ。
開示：KramerERPは、本記事に記載されているERPやデータベンダーを含むテクノロジー企業に対し、有償の研究、アドバイザリー、コンサルティングサービスを提供している。
意思決定を統治する
長年にわたり、企業のガバナンスは情報を中心に据えてきた。誰がデータにアクセスできるか。誰が変更できるか。どこに保存すべきか。どのくらいの期間保持すべきか。これらの管理は今でも重要だ。しかし、ソフトウェアがビジネスの意思決定に直接関与するようになると、企業は権限をも管理しなければならなくなる。
ERP（企業資源計画）は従来、多くの取引が記録、制御される場所であった。購買発注が承認され、在庫が割り当てられ、仕訳が転記され、製造指示が変更される。
AIはこの一連の流れを変える。人が情報を確認して次のステップを開始する代わりに、ソフトウェアが状況を特定し、選択肢を評価し、対応策を準備または実行する。以前のForbes記事で指摘したように、ERPは単なる記録システムから、企業の実行レイヤーの一部へと移行しつつある。これは価値を生み出す一方で、組織が考えていたほど明確ではなかった意思決定権を露呈させる可能性もある。
サプライチェーンの寸断を例に考えてみよう。AIシステムが、重要部品の到着が5日遅れることを検知する。代替サプライヤーを特定し、価格とリードタイムを比較し、利用可能な在庫を判断して、発注先の変更を推奨する。ここまでは単純に思えるが、疑問が生じ始めると話は変わる。
その代替サプライヤーは承認されているか。価格の上昇幅は調達の基準値を超えていないか。その在庫はすでに他で引き当てられていないか。代替によって品質や規制上の問題が生じないか。エージェント（自律型AIプログラム）はサプライヤーを自ら変更できるのか、それとも推奨案を作成するだけなのか。生産が中断した場合、その結果に対する責任は誰が負うのか。
AIは技術的に「サプライヤーBの方が早く納品できる」と正しく判断しているかもしれない。しかし、だからといってサプライヤーの切り替えがビジネス上の正しい決定になるとは限らない。これからのガバナンスは、意思決定のプロセスの内側に組み込まれなければならないのだ。
権限を設計する
より困難な課題は、意思決定権を実行時の制御（ランタイムコントロール）へと変換することだ。AIシステムは、回答、推奨、準備、調整、承認、実行の各段階を担うことができ、それぞれのレベルで異なる管理モデルが必要となる。私は以前にもERPにおけるこれらの意思決定権について執筆した。より広範なガバナンスの問いは、エージェントがシステム間をまたいで稼働するなかで、企業がどのようにこれらの権利を強制適用するかである。
財務部門において、異常な収益取引を特定することは比較的リスクが低い。それを裏付ける分析資料を作成することは、リスクを抑えつつ価値を付加する。仕訳を作成することはさらに一歩踏み込んだ行為であり、確認なしにそれを転記することは、まったく異なるレベルの権限を必要とする。
調達部門でも同様だ。代替サプライヤーを推奨することは、購買発注書を作成することとは異なり、作成することとそれを確定・送信（リリース）することはまた異なる。また、5000ドル（約78万円）の発注と500万ドル（約7億8800万円）の確約とでは、その重みが大きく異なる。
だからこそ、私は設計の単位として「意思決定」に立ち戻り続けるのだ。企業は、テクノロジーが自律して行えること、承認が必要なこと、そして人が担うべきことを決定しなければならない。それは、財務的および業務的な影響、信頼度、ポリシー、規制への抵触リスク、可逆性（元に戻せるか）、および誤った場合のコストに依存する。自律性は能力ではなく、意思決定に基づいて付与されるべきだ。
各種プラットフォームもこのモデルを反映し始めている。Microsoft Copilot Studio、Salesforce Agentforceおよびその新しいAI Control Plane、Oracle AI Agent Studio、そしてSAP Joule Agentsは総じて、権限、ガードレール、承認プロセス、可観測性（オブザーバビリティ）および監査性をエージェントの実行環境へと近づけている。実装方法は異なっても、方向性は同じだ。ガバナンスは、ポリシー文書から実行時の権限へと移行しつつある。
コンテキストも管理の一部である
以前のInfoWorldの記事で、私は信頼できるコンテキスト（背景情報）がエンタープライズAIの通貨になりつつあると提唱した。データが増えれば、自動的に優れた意思決定ができるわけではない。AIは、そのデータを取り巻く関係性、ポリシー、確約事項、および運用の状況を理解する必要がある。これはガバナンスについても同様だ。
例えば、システムが8000個の在庫を検知したとする。これはデータだ。しかし、そのうち何個が利用可能か。何個がすでに引き当て済みか。何個が誤った配送センターに置かれているか。何個が品質検査で保留中か。どの顧客注文が優先されるのか。
ここにガバナンスのコンテキストを加える。誰に在庫を再割り当てする権限があるのか。どのような顧客への確約事項が適用されるのか。どの程度の利益率のしきい値（閾値）で例外的な承認が必要になるのか。現地の計画担当者が変更を行えるのか、それとも地域本部の承認が必要なのか。
信頼できるコンテキストは、AIに何が起きているかを伝える。ガバナンスは、AIに何ができるかを決定する。ポリシー、アイデンティティ（ID）、権限、およびプロセス状態は、ERP、データプラットフォーム、ワークフロー、エージェントを横断して、意思決定とともに移動しなければならない。
グーグル（Google）とIFSは、異なる角度から同じパターンを示している。GoogleのAgent Gatewayは、エージェントのアイデンティティとIAM（ID・アクセス管理）ベースのポリシー適用を使用し、Model Armorをサポートし、可観測性のテレメトリーを生成する。一方で、IFS Loops Agent Studioは、承認ゲート、エスカレーション経路、バージョン管理されたリリース、およびHuman-in-the-Loop（人間の関与）キューを使用している。アーキテクチャは異なっても、要求事項は同じだ。管理は行動に付随して行われなければならない。
ガバナンスは、行動が実行された後に誰かが確認するような、独立した別個のレイヤーになってはならない。これこそが、私が意思決定のアーキテクチャと呼ぶものの一部である。データ、コンテキスト、権限、および実行は、個別のテクノロジーのサイロにばらばらに存在するのではなく、ビジネス上の意思決定を中心に結びつく必要がある。
説明責任を可視化し続ける
AIがより多くの業務を担うようになるなか、組織は自動化によって責任の所在（オーナーシップ）を曖昧にしてはならない。「AIがやった」は運用モデルとは言えない。自動化されたプロセスがサプライヤーを変更し、顧客への確約事項を調整し、生産計画を変更し、財務取引を転記し、あるいは人員配置の推奨を行ったとしても、そのビジネスプロセスと結果に対する責任は、依然として誰かが負っているのだ。
責任の所在は複数の役割にまたがることがある。プロセスオーナーが意思決定を定義し、IT部門がプラットフォームを運用し、セキュリティ部門がIDとアクセスを管理し、リスク・監査部門が管理体制を定義し、ビジネスオーナーが財務上または業務上の結果に対する説明責任を負い続ける。
具体的なモデルは様々だが、誰が責任を負うのかが明確に見えていなければならない。ソフトウェアに付与される権限が大きくなるほど、人間の説明責任をより明確にする必要がある。企業は実行をソフトウェアに委託することはできる。しかし、ビジネスの成果に対する責任を委託することはできない。
AIによるすべての意思決定が同じ結果をもたらすわけではない。推奨案は却下でき、下書きは変更できる。しかし、すでに実行された取引を取り消すのははるかに困難な場合がある。
AIシステムが仕訳を作成することと、それを転記することの違い、あるいはサプライヤーの変更を推奨することと、購買発注書をリリースすることの違いを考えてみてほしい。製造現場において、明日のスケジュールを変更することは元に戻せるかもしれない。しかし、ラインを停止する、原材料のルートを変更する、または物理的なアクションを開始するといった行為は、はるかに大きなコストを伴う可能性がある。
自律性を拡大する前に、可観測性と可逆性を設計しなければならない。企業は、何が起きたのか、なぜ起きたのか、システムがどの情報を使用したのか、どのポリシーが適用されたのか、および誰が、または何がその行動を承認したのかを把握する必要がある。また、問題が発生した際に活動を停止または取り消すためのエスカレーション経路、代替プロセス、手段も必要である。
真の試金石は、ガバナンス文書に管理項目が記載されているかどうかではない。誤った行動をいかに素早く検知し、理解し、停止させ、復旧できるかだ。可逆性のない自律性はガバナンスではない。それはリスクに身をさらすことに他ならない。
ビジネスのスピードで管理する
ガバナンスとは、すべてのAIの意思決定を別の委員会にかけることを意味するのではない。それでは価値の大部分が損なわれてしまう。目指すべきは「限定的な自律性」だ。日常的でリスクが低く、可逆的な意思決定は迅速に進め、影響が大きく、曖昧で、例外的な状況は人間に委ねる。
この運用モデルは、顧客への導入事例でも見られ始めている。SAPによると、アルヘンティナ空港（Aeropuertos Argentina）のSNOWエージェントは、パタゴニア地方の8つの空港における冬期運用の際、定義された安全しきい値、サービスレベル、およびプレイブックの範囲内で稼働している。SAPは直接コストが16％削減され、事務時間が90％削減されたと報告している。またIFSは、コディアック・ガス・サービス（Kodiak Gas Services）が、資材補充デジタルワーカーの導入により、年間約300万ドル（約4億7300万円）の投資収益率（ROI）と、9万時間以上の労働時間の削減を見込んでいると報告している。
Salesforceの報告によると、ライブ・ネーション（Live Nation）のVenue Agentは、ファンの質問の95％をスタッフへの引き継ぎなしで処理し、エージェントの知識外の要求は人間にルーティングされている。
これらはベンダーから報告された成果である。その割合は有益だが、運用モデルこそがより重要だ。日常業務は定義された境界線の内部でより迅速に進み、例外や影響の大きい意思決定は人間の目に留まる。これこそが、限定的な自律性の本質である。
評価指標は双方の側面を反映しなければならない。エージェントの数やポリシーの数は、ビジネスの成果ではない。購買サイクル時間、サービスレベル、運転資本、スループット、ダウンタイム、決算所要時間、およびエラー率にどのような変化があったかを測定する。その上で、例外発生率、オーバーライド（強制介入）の頻度、承認頻度、復旧時間、および繰り返される障害によって、管理状況を測定する。
ビジネスのパフォーマンスと管理のパフォーマンスは、共に向上しなければならない。理由の説明がつかない意思決定を増やしながらスピードだけを上げても、それは進歩とは言えない。
意思決定から始める
CIO、テクノロジーリーダー、およびビジネスエグゼクティブにアドバイスするなら、まずは小さく始め、意思決定の現場に密着することを勧める。責任の所在が明確で、成果を測定できる3〜5の実際の意思決定を選び出す。AIが何を推奨、準備、承認、あるいは実行できるかを定義し、その周囲で必要となる信頼できるコンテキストとしきい値を特定する。
説明責任を負う人物を特定し、自律性を拡大する前に介入プロセスを設計する。信頼度が低下した場合、情報が矛盾した場合、しきい値を超えた場合、あるいはシステムが誤った場合にどうするかを決定する。その上で、適用範囲を広げていくのだ。
エンタープライズAIの導入によって、ガバナンスの重要性が下がることはない。むしろ、ガバナンスが実務として機能するようになる。AIが企業の実行レイヤーの一部となるにつれ、権限、コンテキスト、および説明責任は意思決定とともに移動しなければならない。
適切に実行されれば、ガバナンスはビジネスのスピードを遅らせるものではない。AIが自律して行動できる領域、人が関与し続けるべき領域、およびテクノロジーが誤った場合に何が起きるかを明確にするものなのだ。
テクノロジーは変革を可能にする。結果を決定するのは人である。
