これらの自律型ソフトウェアボット（エージェント）は、採用手続きの開始、従業員のプロファイル更新、あるいは財務ワークフローの起動といった操作を実行できる。しかし、報酬、アクセス権限、コンプライアンス、説明責任を規定するルールに従わずに、それらを実行してしまう可能性もある。
CIO（最高情報責任者）はAIのスピードと能力を活用したいと考えているが、同時に、そうしたエージェントが一貫して予測可能に振る舞うという確信も必要としている。「正直なところ、それがCIOの足かせになっている」と、Workdayの最高技術責任者（CTO）、ゲイブ・モンロイは語る。「彼らは魔法のような力を求めているが、必要としているのは決定論的な確実性だ」
Workdayの新たな調査は、この緊張関係がいかに現実的なものかを示している。6100人の企業意思決定者を対象に世界規模で実施されたHarris Pollの調査では、IT部門のディレクター以上の役職者の91%が、基盤となるシステムとデータを信頼している場合にのみ、AIによって自らの意思決定に対する確信が高まると回答した。また、半数近くが、AIの導入によって自身の業務に必要とされるチェックや監視が増えたと答えている。さらに、AIが基幹システムに深く組み込まれていると答えたのはわずか27%にとどまり、多くの組織が新しいツールの導入を急ぐあまり、AIインフラを完全に統合できていないことがうかがえる。その結果、ルールを執行するために構築されたシステムの外側で、依然としてAIを稼働させているのが現状だ。
エージェントはなぜ脱線するのか
多くの企業は、エージェントを統制するように構築されていないインフラを介してエージェントの導入を始めている。その結果、本来必要とされる承認経路を経ることなく、資金、人材、機密記録にAIがアクセスし、操作を実行できる状態を作り出してしまっている。
モンロイは、この問題がどのように起こり得るかを示すため、社内実験を例に挙げる。彼のチームは、2つの異なる環境で同一のプロンプトを実行した。その内容は、人事ビジネスパートナーがAIエージェントに対し、スペインで6カ月契約のコントラクターを、同地域の他のコントラクターと同じ条件で設定し、支払いレートを設定するよう指示するというものだ。最初の環境はWorkdayの外部で、サードパーティーのAIエージェントに、従業員の作成、契約書の発行、報酬の更新を指示した。エージェントはそのタスクを問題なく完了した。新しい従業員が作成され、契約書が発行され、報酬が更新された。
しかし、それはバックグラウンドチェックを省略し、スペインの地域別賃金水準を無視し、そのレートでの報酬例外に必要な承認経路を一切起動しなかった。「これは実際にはコンプライアンス上の地雷であり、賃金公平性をめぐる訴訟につながる可能性もあった」とモンロイは言う。詳細なルールがなければ、エージェントは目標を達成したと判断したため、そのいずれもエラーとして表示されなかった。
モンロイが指摘するのは、モデルは結果を達成しようとする目標追求型のシステムであり、その周囲にある承認経路、地域別ルール、コンプライアンス義務を本質的に理解しているわけではないという点だ。
「これが、われわれが『無法エージェント』問題と呼ぶものだ」と彼は言う。
これに対し、同じプロンプトの2つ目のバージョンはWorkdayの内部で実行され、エージェントはデータを管理するビジネスプロセスを通じて動作した。その推論の連鎖はタスクの途中で一時停止し、指示されなくても、必要なバックグラウンドチェックの手配と報酬承認の起動を自動的に行った。プロンプトは同じで、最終的な採用結果もほぼ同じだった。唯一の、そして決定的な違いは、一方はルールに従い、もう一方は従わなかったという点にある。
解決策は「シャドーERP」の構築ではない
企業が無法エージェント問題の限界に直面すると、一部は実務的な問いを投げかける。すでに使っているサードパーティーAIツールに安全策を書き込むことは、どれほど難しいのか、というものだ。チームは、従業員ハンドブックをモデルのコンテキストウィンドウに詰め込んだり、サードパーティーツールの上にポリシーミドルウェアを重ねたりして、独自のガードレール、承認ロジック、チェック機能を寄せ集める。
モンロイは、このパターンが繰り返されるのを目にしてきた。プロンプトベースの修正は失敗する。コンテキストウィンドウの容量には限界があり、その層で遵守を保証することはできないからだ。ルールが後付けされるにつれ、チームはモンロイが「シャドーERP」と呼ぶものを構築することになる。すなわち、他社のAIスタックの中に組み立てられた、特注で場当たり的なガードレール群であり、本物の記録システム（システム・オブ・レコード）がすでにネイティブに執行しているものを、外側から再現しようとする試みである。
プロンプト内に符号化されたこうしたルールは、会社のポリシーが変わっても自動的には更新されない。誰かがすべての更新に気づき、指示を書き換え、再デプロイしなければならない。数カ月後、企業は、中核システムがもともと処理するよう設計されていたビジネスロジックの第2版を維持していることに気づきかねない。
「人事や財務に関わるエージェントのコンポーネントをWorkdayプラットフォーム上で実行すれば済む話なのに、なぜシャドーERPの構築に数千万ドルもの投資をする必要があるのか」とモンロイは問う。
「人事や財務に関わるエージェントのコンポーネントをWorkdayプラットフォーム上で実行すれば済む話なのに、なぜシャドーERPの構築に数千万ドルもの投資をする必要があるのか」
真のガードレールとは何か
プロンプトベースの修正が機能しない場面で、なぜWorkdayのアプローチは機能するのか。そう尋ねると、モンロイは1つの考えに立ち返る。アーキテクチャの物理法則、すなわち「近接性の原則」だ。企業システムにおいて、ガードレールの完全性と実行速度は、基盤となる記録システムから離れる（ホップ数が増える）たびに低下していく。
「ガードレールの質は、それを支えるデータにどれだけ近いかによって決まる」とモンロイは説明する。エージェントが記録システムから離れた場所で動作すると、企業構造への理解は、静的で遅れのあるスナップショットへと劣化する。しかしWorkday内では、エージェントはライブの組織グラフにアクセスできる。つまり、ある人物がその役割、管理ライン、報酬水準、地域別コンプライアンスポリシーとどのようにつながっているかを、すべて一度に把握できるのだ。
「ガードレールの質は、それを支えるデータにどれだけ近いかによって決まる」
記録を参照することは容易だが、ガバナンスが重要になるのは、それに基づいて行動するときである。Workday内では、報酬例外の承認、従業員ステータスの更新、資金の移動といったアクションは、プラットフォーム全体でバックグラウンドチェック、賃金水準、承認経路を執行する同じワークフローを通じて実行される。AIは判断に至るまで推論できるが、実行そのものは、何が、いつ、誰の権限で変更されたかを記録するプロセスを通じて行われる。同じ手順をWorkdayの外に移せば、そうした安全策はもはや保証されない。タスクは依然として完了するかもしれないが、適切な承認、ポリシー、統制が執行されるかどうかは、そのツールの周囲に構築されたガードレール次第となる。さらに、セキュリティコンテキストはWorkdayのネイティブ境界内に常駐し続けるため、エージェントは外部APIホップで必要となる遅延や、信頼境界をまたぐ反復的な再認証を回避できる。
企業がエージェントをデジタル労働力として管理し始めるにつれ、説明責任の問題はますます大きくなっている。WorkdayのAgent System of Record（ASOR）は、エージェントにID、権限、名前のある人間の所有者を付与し、エージェントを大規模に追跡・統制する方法を提供する。
Accentureはすでに、自社クライアントのためにこのロジックを適用している。78万5000人超の従業員を抱える同社は、まさにこの問題をめぐり、Workdayに特化したプラクティスを構築してきた。「ASORによって、当社はクライアントに対し、デジタル労働力を大規模に管理するために必要な戦略的ガバナンスと分析を提供している」と、AccentureのWorkday Business GroupのCTO、バーラス・スリニバスは語る。
エージェントの能力は今後も高まり続けるだろう。だが問われるのは、その周囲にある企業が、その能力を受け止める準備ができているかどうかだ。CIOにとって、AIの次の段階の評価基準は、エージェントがどれだけ多くの仕事を担えるかだけではなく、ビジネスの維持に不可欠なルールの内側で、その仕事を遂行できるかどうかになる。
