企業のAI活用をめぐる議論で、私は同じパターンを何度も目にしている。
あるチームが、仕事をこなせるエージェントを実演する。情報を見つけ、複数のシステムを横断して作業し、これまで人が数時間かけていたタスクを完了できる。誰もがその技術に感心する。すると誰かがこう尋ねる。「このエージェントに、より広範な権限を持たせて自律的に仕事を任せられるのか」。多くの場合、そこで議論は勢いを失い、宙に浮いた状態になる。
McKinseyの2025年調査によると、組織の23%が社内のどこかでエージェント型AIシステムを拡大導入しており、さらに39%が実験段階にあった。一方で、個別の業務機能でエージェントの拡大導入を進めていた割合は10%未満だった。
私にとって興味深いのは、導入率そのものよりも、これらの数字の間にある隔たりだ。私がますます目にする問題は、AIエージェントにその仕事を遂行する能力があるかどうかだけではない。問題は、その仕事に対する責任を機械に引き渡すための合理的な方法を、組織が持っているかどうかである。つまり、組織が安心でき、必要な統制を備えているかどうかだ。
企業はこれまで何年もの時間と数十億ドルを費やし、人に対してこれをどう行うかを整えてきた。誰が支払いを承認できるのか、契約に署名できるのか、顧客に話せるのか、投資判断を下せるのか、機密情報にアクセスできるのかを決められる。通常、権限には制限があり、誰かがその意思決定の責任を負うが、いつでも変更または取り消すことができる。あまりに日常的な仕組みであるため、私たちはほとんど意識しない。
AIについては、同じことを改めて考え直さなければならない。現時点では、多くの企業がこの問題に2つの方法のいずれかで対処しているように見える。重要な行動のほぼすべてに人、つまりヒューマン・イン・ザ・ループを関与させることで、AIが実際に引き受けられる仕事量を制限する方法。あるいは、AIにより大きな自由を与え、主に技術的な統制に頼って範囲内にとどめる方法である。
しかし、そのどちらも、事業として実際にどの責任を委譲する用意があるのかを決めることとは同じではない。この違いは重要だ。技術的な権限で分かるのは、エージェントがどのシステムにアクセスでき、どのデータを見られ、どのツールを使えるかだけである。
簡単な例を考えてみよう。エージェントは技術的にはメールを送信できるかもしれない。しかし、それは、特定の種類の顧客向けコミュニケーションを、誰かが事前に読まずに送ることを企業が認められるかどうかの答えにはならない。信用、投資、採用、保険金請求、法的判断、あるいは組織が結果に自らの判断を反映させるあらゆる業務が関わる場合、この問題ははるかに重要になる。
イングランド銀行の金融安定政策委員会は4月、この問題に触れた。同委員会は、金融機関が引受審査や取引といった中核的な金融活動に高度なAIを利用していることを示す証拠はほとんどないと指摘した。その一因として、重要な局面で高度なAIを使うリスクは、得られる利益を上回り得るという企業自身の評価があった。
この指摘は、私には腑に落ちる。企業AIの次の段階は、モデル能力のさらなる飛躍よりも、企業が何を引き渡す用意があるのかをより適切に判断できるようになることに左右されるかもしれない。
この問題には、あまり注目されていない別の側面もある。企業が今日下した判断が、6カ月後も妥当であり続けるとは限らないことだ。AIは変化し、モデルが更新され、別のシステムにアクセスできるようになるかもしれない。あるいは、その振る舞いが変わる可能性もある。
しかし、事業そのものも変化する。新たな方針、顧客からの制約、リスク上限によって、技術自体には何の変化がなくても、AIシステムが行うべきことは変わり得る。
そのため、本格的なAI活用においては、一度きりの承認では不十分だ。答えは、必ずしも新たな大規模ガバナンスプログラムから始める必要はない。むしろ、かなり基本的な運用規律から始まるのだと思う。何が承認されたのか、誰がその判断を下したのか、どのような条件が付されたのか、そしてどのような変化が起きた場合にその判断を再検討すべきなのかを把握することである。
AIプロジェクトがなぜ停滞しているのかを見極めようとするCEOや事業責任者なら、私はさらに単純なところから始める。社内で、今よりも有用な仕事ができると人々がすでに考えているAIシステムを見つける。そのうえで、その仕事を与えることを妨げているものは何かを問う。次に、その制約を取り除く権限を具体的に誰が持っているのか、そしてその人が安心してそうするために何を必要としているのかを尋ねる。答えは技術かもしれないし、データかもしれない。あるいは商業面かもしれない。
しかし、答えはますます平凡なものになっていくのではないかと私は考えている。つまり、組織がAIにより大きな責任を与える準備が整う前に、AIのほうがすでにその責任を担う準備を整えているということだ。この問題を解決することは、AIの実験から、企業の運営方法を実際に変える段階へ進むうえで、最も重要な一歩の1つになるかもしれない。
