ロヒット・グプタ氏は、企業の財務チームにAI駆動の自動化ソリューションを提供する先駆者であるAuditoria.AIのCEO兼共同創業者である。
企業におけるAIに関する現在の議論から一歩引いて見ると、議論が間違った場所で停滞していることに気づくかもしれない。顧客やステークホルダーとの会話のほとんどで、焦点は依然として能力に当てられている。モデルは向上し、エージェントはより洗練され、ツールは正直なところ、ほとんどの組織がまだ完全には吸収しきれていないペースで進化している。
しかし、それがAIを妨げているものではない。AIはすでにビジネスの重要な部分を運営する能力を持っており、財務、顧客オペレーション、ソフトウェア開発において、実験から本番運用への移行が見られている。今AIを妨げているのは、説明可能で効果的な制御である。
より具体的には、組織はどのようにして、許容できないレベルのリスクを導入することなく、AIシステムを自律的に運用できるのか？これが、ビジネスとITが解決すべき真の課題である。
実験から実行へ
過去18カ月から24カ月にわたり、企業は予測可能なサイクルを経験してきた。まず実験、パイロット、概念実証、孤立したユースケースが登場した。多くのエネルギーが費やされたが、業務への影響は限定的だった。
今、我々は異なる段階にいる。マッキンゼーの「2025年のAIの現状」調査によると、組織の88%が少なくとも1つのビジネス機能でAIを使用している。しかし、ほとんどの組織は、企業レベルの価値を実現するのに十分な深さでワークフローに組み込むには至っていない。
これは、企業リーダーとの会話で私が目にしていることと一致している。ここで必要な焦点は「AIは機能するか？」ではなく、「ビジネスの一部を運営するのに信頼できるか？」である。
これは根本的に異なる基準である。AIが本番運用に移行すると、信頼性は交渉の余地がないものになる。一貫性、統合、そして最も重要なのは説明責任が重要になる。企業は、システムが何をしているかだけでなく、なぜそれをしているのかを理解する必要がある。
この時点で、採用と展開に対する現在のアプローチの一部が限界を示し始める。
ヒューマン・イン・ザ・ループの限界
過去数年間、ビジネスプロセスにAIを展開する支配的なモデルは、一般に「ヒューマン・イン・ザ・ループ」と呼ばれるものだった。考え方は単純である。AIが作業を行い、人間が結果をレビューまたは承認する。
このモデルには本質的に間違ったところはない。特に信頼を構築する上で、採用の初期段階で重要な役割を果たした。しかし、スケーリングの観点から考えると、それはボトルネックになる。
すべての決定や行動に人間の検証が必要な場合、プロセスを真に変革しているわけではない。既存のワークフローにAIを重ねているだけであり、同じ古いビジネス上の制約が適用され、速度の向上は限定的で、依然として業務の複雑さが残る。
さらに重要なことに、ビジネスプロセス自体がこの依存関係によって妨げられている。
ガバナンスされた自律性への移行
現在見られているのは、そのモデルから、より持続可能なものへの移行である。私はこれを「ガバナンスされた自律性」と呼んでいる。
その核心において、ガバナンスされた自律性は、すべてのステップで絶え間ない人間の承認を必要とするのではなく、定義された境界内でAIシステムが独立して動作することを可能にする。これは人間を方程式から取り除くことを意味するのではなく、彼らの位置を変えることを意味する。
すべてのトランザクションに関与する代わりに、人間は監視、例外処理、ポリシー定義に焦点を当てた役割に移行する。システムは自律的に行動するように設計されているが、信頼、説明可能性、制御を保証するフレームワーク内で動作する。
この区別は微妙だが重要であり、ここでモデルが大規模に実行可能になる。ガバナンスのない自律性はリスクを生み出し、自律性のないガバナンスは摩擦を生み出す。両者のバランスこそが真の価値が存在する場所である。
ガバナンスが実際に必要とするもの
組織がこのビジネスモデルに進化する方法には、いくつかの基礎的かつ運用上のステップが必要である。
第一に、AI労働力がどのようなものかについての明確な理解が必要である。人間の従業員が記録システム内で登録され管理されるのと同様に、AIエージェントはカタログ化、監視、ガバナンスされる必要がある。
第二に、権限とエンタイトルメントが重要になる。AIエージェントはどのような行動を取ることができるのか？どのような条件下で？どのレベルの権限で？そして、他者に代わって動作するAIエージェントには、リアルタイムで付与、昇格、または取り消すことができる動的な承認が必要になる。
第三に、企業はエージェントが何をしているかを理解するためのツールが必要であり、その行動への明確な可視性と、その行動とその背後にある根拠に関する説明可能性が必要である。
デロイトの2026年「企業におけるAIの現状」レポートによると、組織の46%がガバナンスと監視を主要なAIリスクとして挙げているが、成熟したガバナンスモデルを持っているのはわずか21%である。このギャップは、私が強調している真の問題を指し示している。財務ワークフロー、統制、所有権構造は、AIが単に支援するのではなく作業を行う世界のために再考されていない。
承認から設計への信頼の移行
このモデルにおける最も重要な変化の1つは、信頼がどのように確立されるかである。ヒューマン・イン・ザ・ループシステムでは、信頼は検証を通じて確立される。人が出力をレビューし、それが許容できるかどうかを決定する。
ガバナンスされた自律性モデルでは、信頼はシステムに組み込まれている。それは、ワークフローの設計、データの品質、統制の堅牢性、意思決定を導くポリシーの明確性から生まれる。
これは人間の関与の必要性を排除するものではなく、単にそれがどこでどのように起こるかを変えるだけである。
このモデルの下で、人間の重要性は変わらない。彼らは依然としてルールを定義し、パフォーマンスを監視し、例外が発生したときに介入する。しかし、彼らはもはやすべての行動のゲートキーパーではなく、その結果がスケーラビリティである。
企業AIの次の段階
他の基盤技術がどのように進化してきたかを見ると、パターンがある。例えば、クラウドコンピューティングは実験から始まり、本番運用に移行し、最終的にはインフラストラクチャになった。
AIは同様のパターンをたどっているが、より速く動いている。AIはインフラストラクチャであるが、それだけではない。それはワークフローに参加し、決定を下し、成果を推進するデジタル労働の一形態である。この違いにより、ガバナンスは著しく重要になる。
ビジネスは、AIを大規模に効果的に運用する方法を見つけ出さなければならず、ここでガバナンスされた自律性が重要な役割を果たすべきである。それは、AIによって約束された自律性を、ビジネスの目標と成果に信頼し、制御し、整合させる能力である。
