ビジネスやテクノロジーのリーダーたちと会話をする際、AIが話題にのぼると、決まってデータの話になる。企業が知りたいのは、自社のデータが正確であり、アクセス可能で、進化を続けるAIシステムを支える準備ができているかどうかだ。
これらは重要な問いだ。しかし、AIが単なる情報の提供から意思決定と実行へと移行するにつれ、別の問いがより注目されるべきだと私は考えている。
長年にわたり、人間は経験と文脈を頼りに、特定の状況においてどの情報を信頼すべきかを判断してきた。どのシステムを確認すべきか、どの定義が適用されるか、そして例外がいつ重要になるかを理解している。だが、AIエージェントがその判断力を自動的に受け継ぐわけではない。
私たちはこれまで、「何が信頼できる唯一の情報源（ソース・オブ・トゥルース）なのか？」と問いかけてきた。しかし、AIエージェントの時代には、「この意思決定において、どの情報源が権限（オーソリティ）を持つのか？」とも問い直す必要がある。
企業にはもともと、唯一の「真実」など存在しない
企業は長年、「シングル・ソース・オブ・トゥルース（信頼できる唯一の情報源）」という理想を追い求めてきた。その取り組みは今でも重要だ。正確で一貫性があり、適切に管理されたデータは、健全なビジネス上の意思決定に不可欠だからである。
しかし、企業のデータは、正しい答えが格納されているシステムを一つ特定すれば済むほど単純なものではない。営業チームは案件の最新状況を把握するためにCRM（顧客関係管理）データを頼りにし、財務チームは売上認識のためにERP（企業資源計画）や財務システムを頼りにするかもしれない。業務部門は、注文を履行できるかどうかを判断するために、また別のシステムを使用していることもある。目的によって、それぞれのシステムが正当な権限を持ち得るのだ。
システム間の差異は、必ずしも排除すべき問題ではない。重要なのは、なぜその差異が存在し、それが人間の意思決定にどう影響するかを理解することだ。
人間が「欠けている文脈」を補ってきた
経験豊富な従業員は、こうした差異に日々対処している。彼らは財務部門が四半期末にどの数値を使用するかを知っている。CRMに最新の顧客情報が含まれているのはいつか、また、契約書や他のシステムを確認する必要があるのはどのタイミングかを把握している。さらに、ある状況が通常プロセスの例外にあたるかどうかも判断できる。
こうしたルールのうち、文書化されているものもあるが、多くは明文化されていない。
実質的に、人間はシステム間に欠けている「文脈のレイヤー」として機能してきた。一見矛盾しているように見える情報に対し、経験やビジネス知識、判断力を持ち込むことで解決してきたのだ。何かがおかしいと感じたとき、彼らは立ち止まって調査することができる。
AIエージェントが「曖昧さ」の顛末を変える
人間が情報を探すのを支援するAIシステムと、情報を利用して次のアクションを実行するAIエージェントとの間には、重大な違いがある。顧客の注文を出荷すべきかどうかを判断するエージェントを例に考えてみよう。このエージェントは、顧客の未払い残高、承認済みの与信条件、注文ステータス、そして最新の合意内容などの情報を必要とする。これらの情報は、複数のシステムから取得される可能性がある。
エージェントにこれらすべてへのアクセス権を与えたとしても、組織がそれらの情報をどのように比較検討することを望んでいるかまでは伝わらない。あるシステム上の顧客のアカウントステータスが、より最近の合意内容と矛盾している場合はどうなるのか。どちらが意思決定を支配すべきなのか。例外はあるのか。エージェントはどの時点で処理を止め、人間に判断を仰ぐべきなのか。
AIがこうした曖昧さを生み出したのではない。AIは、曖昧さを放置した結果もたらされる影響を一変させたのだ。
リーダーが注目すべき「意思決定の権限」
私はこの問題を、「意思決定固有の権限」という観点から捉え始めている。エージェントは、意思決定を行うために複数の信頼できる情報源を参照するかもしれない。しかし、より難しい問題は、特定の状況において、どの情報源がどのような条件のもとで優先されるべきかということだ。
その段階に達すると、データガバナンスは、ビジネスがどのように意思決定を行うのかという、より広い問いの一部になる。
より困難な課題は「判断」を明文化すること
企業向けAIに関する議論の多くは、データを安全かつ確実にAIが利用できるようにすることに集中している。その作業は必要だ。しかし、単にアクセス権を与えるだけでは、人間が長年の意思決定を通じて培ってきた経験をエージェントに授けることはできない。
毎日そうした意思決定を下している人々は、社内ポリシーやシステムから見つけ出すのが難しい暗黙知を持っている。彼らは普段どの情報を頼りにしているかを知っており、通常の手順が状況に完全に適合しないタイミングも理解している。その知識の多くは経験から得られるものだ。
課題は、AIエージェントが従うことができるほど、その経験を明確に言語化・ルール化する手法を見出すことだ。
リーダーは「権限の拠り所」を理解しなければならない
企業がより自律的な（エージェンティックな）AIの活用に向けて準備を進めるなか、関心の多くは自然とモデル、プラットフォーム、セキュリティ、およびシステム統合に向かうだろう。これらの投資は確かに重要だ。
しかし、これはリーダーシップに関する問いも提起している。特定のビジネス上の意思決定において、どの情報を拠り所にすべきかを決めるのは誰なのか。そして、答えが不確かな場合に誰が責任を負うのか。
経験豊富な従業員がその場にいて文脈を解釈してくれた時代には、こうした疑問は未解決のままにしておきやすかったかもしれない。だが、AIエージェントがより多くの責任を担うようになると、それを放置することは困難になる。
AIに行動するための権限をより多く与える前に、リーダーは、それらの行動の背後にある意思決定に誰が責任を負うのかを明確にする必要がある。
