私は多くの時間をERPシステムの内部で過ごしている。ERPとは、企業の財務、在庫、調達、業務運営を支えるソフトウェアである。そして、経営幹部から繰り返し聞く問いは、おおむね次のようなものだ。「これにAIエージェントを載せられるのはいつか」
これは最初に問うべき問いではない。
エージェントが有用ではないからではない。有用である。仕訳を起案し、発注書を準備し、例外処理を回付できるソフトウェアは、バックオフィス部門の働き方を変え得る。しかし、業務オペレーションにおいては、行動できる能力よりも、その行動がなぜ正しかったのかを証明できる能力の方が重要である。
エンタープライズAIには、エージェント層の前にエビデンス層が必要だ。
エージェント層は、レコードの更新、承認の回付、ドキュメントの準備、次のステップの推奨といった「実行（アクション）」を担う。一方、エビデンス層は、関連する事実の収集、その出所の追跡、情報源間の矛盾の解消、そして人間とソフトウェアの双方に意思決定の信頼できる拠り所を提供するといった「グラウンディング（根拠付け）」を担う。
エビデンス層がなければ、自動化は当てずっぽうと大差ない。
業務ワークフローが見た目以上に難しい理由
コンシューマー向けAIでは、もっともらしい答えでたいてい事足りる。だがエンタープライズAIでは、もっともらしい答えが破滅的な結果を招くこともある。
日常的な仕入先への支払いを例に取ろう。関連する事実は、請求書、発注書、受領書、特別条件を含む契約書、承認メール、そして6カ月前に誰かがERPに残したメモに分散しているかもしれない。日々の業務では、買掛金担当者は、これらの記録が食い違ったときにどの情報源を信頼すべきかを把握している可能性が高い。発注書の価格は正しいが、請求書の数量は一部分納を反映していることを知っている。この仕入先は必ず3日後に訂正版の請求書を送ってくることも知っている。
AIシステムは、その文脈を提供するためのインフラを誰かが構築しない限り、そうした背景を持ち合わせない。
エビデンス層は、あらゆる業務ワークフローの根底にある次のような問いに答えるものだ。この項目において、どのシステムが「真実のソース」となるのか。データが最後に更新されたのはいつか。誰がどの権限に基づいて例外を承認したのか。このワークフローが前回実行されて以降、何が変わったのか。
こうした問いは地味に感じられるかもしれない。しかしそれこそが、有用な自動化と、後の監査で発覚する高くつくミスとの分かれ目である。
エビデンス層が実際に果たす役割
第1に、出所の追跡（プロベナンス）である。AIによるあらゆる提案は、文書、記録、それを生み出した出来事といった情報源までたどれる必要がある。言い換えれば、ブラックボックスであってはならず、コントローラー（財務責任者）や監査人が追える推論の連鎖に近いものであるべきだ。
第2に、矛盾の解消である。企業データは初めから雑然としており、2つのシステムの内容が一致しないことは珍しくない。正しい対応は、どちらか一方を選んで祈ることではない。エージェントが矛盾を可視化し、判断権限と関連する領域知識を持つ人に回付する方がはるかに望ましい。
第3に、権限管理である。すべてのワークフローがすべてのデータを見るべきではない。エビデンス層は、組織全体を1つの巨大なプロンプトに押し込むのではなく、既存のセキュリティ境界を尊重しなければならない。
デモではなくエビデンスから始める
技術者としては、最新のAIモデルのリリースに合わせて、まずは見栄えの良いデモを作りたくなるものだ。低遅延で「驚き」を生む派手なエンドツーエンドのタスクは、開発チームを高揚させがちだ。しかし、デモはエンタープライズエージェントに必要な難所を覆い隠す。承認漏れ、重複レコード、契約上の例外、矛盾するルールをどう扱うのか。
代わりに、一定の処理量がある1つのワークフローから始めるべきだ。それが接触するすべてのシステムを洗い出す。データが矛盾したときにどの情報源を優先するのか、何に人間の承認が必要なのか、どの時点で例外経路に進むべきなのかを決める。エージェントスキルを作るにせよ、システムプロンプトを調整するにせよ、より決定論的な経路に頼るにせよ、これらの基本要素（プリミティブ）はエビデンス層にエンコードされ、呼び出し可能であるべきだ。
そのうえで初めて、エージェントに行動を許すべきだ。
これは最初のうちは遅く感じられるだろう。しかし、1つのワークフローにエビデンス層ができれば、その効果は積み上がっていく。エージェントの「ドリーミング」（知識の集約・統合）や、大規模なエージェント群を実現するためのカンパニー・ブレインが台頭するなかで、企業の未来を動かすエージェントにとって、このエビデンス層が譲れない要件となることは避けられない。
業務オペレーションにおいてAIで勝つ企業は、おそらくソフトウェアに可能な限り広範な行動権限を与える企業ではない。行動のための最も明確な土台を築く企業である可能性が高い。
そして今日のフロンティアAIエージェントにおいては、知能だけでは不十分である。エビデンスが先に来る。
