デロイトの調査によると、ビジネスリーダーの58%が、2020年代の終わりまでに自社のさまざまな部門でAIエージェントが利用されるようになると予想している。競合他社に後れを取らず、エージェントの能力を活かして業務を変革しなければならないという切迫感は本物だ。同時にリーダーたちは、エージェント導入における「人間の責任(アカウンタビリティ)」の重要性を強く認識している。ガバナンスなき導入は、望ましくない結果を招き、ビジネスリスクを高める要因になると正しく理解されているからだ。
喫緊の課題は、エージェントがあらゆる場所に存在する職場環境において、組織は責任という複雑な問題にどう取り組むべきかという点だ。
「同僚」としてのエージェントと人間の責任
これから起こることを考えてみよう。先述のデロイトの調査では、企業のリーダーの61%が、今後4年以内に自社で使用するエージェントがほぼ自律的に機能するようになり、人間の従業員はAIの監視役に移行すると予測している。また同期間内に、複数ステップのタスクにおいてエージェントが部門横断的に協調動作するようになるとも予想されており、部門間の境界線が曖昧になることで、AIの所有権とガバナンスは一層複雑化する。
数千に達する可能性もあるエージェントが企業全体で稼働するようになると、「走りながら考える」というアプローチは立ち行かなくなる。リーダーが、エージェントをどこで活用すべきか、ワークフローをどう変革すべきか、あるいは部門間で監視やガバナンスをどう共有すべきかを十分に把握できない事態に陥りかねないからだ。最終的には、エージェントがもたらした結果に対して誰が責任を負うのかという問題に行き着く。
課題の一因は、エージェントが完全な労働者でもなければ、完全な技術インフラでもない点にある。その両方の性質を少しずつ併せ持っているのだ。エージェントは、従来人間が行ってきた多くのタスクをこなすことができ、まるで同僚のように人間と並んで働くときに最も大きな価値を発揮することが多い。しかし、人間とは決定的に異なる点がある。機械に責任を取らせることはできない、という点だ。
エラーや問題が発生した際、最終的な責任を負うのは企業とその従業員だ。懸念されるリスクの一つは、人間が自身の監視するエージェントを擬人化してしまうことだ。AIに人間らしさを投影することで、利用者はエージェント自身が自分の意思決定や行動に責任を持てると錯覚してしまう恐れがある。この問題は防ぐことができるが、自然に解決するものではない。
責任のあり方を明確にすることは、それ自体が目的ではない。問題が起きたときに誰かを責めるためではなく、ガバナンスのためのものだ。エージェントはソフトウェアよりも労働者に近い動きをするかもしれないが、資金拠出や導入はIT部門が担うことが多く、結果として誰が何に責任を負うのかが曖昧になりやすい。エージェントのリスクと人間の責任を徹底的に考えることで、再設計されたワークフローのどの段階で意思決定権や介入が必要かを特定できるようになる。また、誰がガバナンスを主導し、誰がエージェントの所有権を持つのかについての決定を活性化させることにもつながる。
エージェント導入に向けた戦略的アプローチの追求
多くの企業が、エージェント時代に必要な変化と戦略の策定に取り組んでいる。競合する目標や予算の調整、エージェント活用に向けたワークフローの変革方法の特定、従業員のトレーニング、チェンジマネジメントなどに対処しているが、これらはすべて、進化の途中にある全く新しい技術の能力とリスクに向き合いながら行われている。
先行きが不透明で複雑なこの時期において、リーダーは新たな課題を予見すべきだが、目指すべき道標(ノーススター)は他のビジネス資産と同じだ。すなわち、ビジネスニーズに対応し、大規模かつ測定可能で大幅な投資対効果(ROI)をもたらすソリューションに投資することである。経営陣による議論が続くなか、リーダーは自らの思考と意思決定の指針として、いくつかの重要な注力分野に目を向けるべきだ。
1. 人間の介入は単なるお決まりの承認ではない
「ヒューマン・イン・ザ・ループ(人間の介在)」とは、時としてそう受け取られがちだが、エージェントの出力に対する単なる最終承認ではない。承認か否認かの判断は、それまでのタスク実行や意思決定が妥当でありガバナンスが効いていたことを前提としている。しかし、ワークフローの随所で例外が発生したり、途中でエージェントのパフォーマンスを評価したり、人間の判断を必要としたりする場所が存在するはずだ。こうした関門を設けることで、ワークフロー全体に人間の責任と監視を組み込むことができる。
これを実現するには、組織が変革後のワークフローを詳細にマッピングする必要がある。これはビジネス目標の設定や、スピード、効率、セキュリティ、ガバナンスを向上させる機会の特定においても価値がある。
2. 理想的なパフォーマンスとは出力の正確性にとどまらない
エージェントの出力の正確さには、多くの注目と投資が集まってきた。それはパフォーマンス評価の重要な要素ではあるが、唯一の要素ではない。一歩引いて考えれば、組織は個々のエージェントやそのグループがエンドツーエンドの成果にどう影響を与え、中核的なビジネス指標をどれだけ改善できているかを評価する必要がある。これにより、どこで拡大を図り、どこでさらなる変革が必要かという意思決定に役立つ。
人間の責任に基づく取り組みとしては、エージェントの行動監査、エージェント間の相互作用の追跡・評価、人間がいつ介入しどのような結果になったかのドキュメント化などが挙げられる。最終的に企業が測定すべきなのは、出力が一貫しているか「正しい」かだけでなく、システムがビジネスの目標や指標を推進しているかどうかである。
3. デジタル労働力には「人間とAIのオペレーティングモデル」が必要
介入とパフォーマンス評価を調整するため、企業は「人間とAIのオペレーティングモデル」の中で活動と責任を明文化すべきだ。これは導入されるエージェントの数が増えるにつれて、ますます重要になる。このオペレーティングモデルでは、ガバナンスを明確にし、人間の介入に関するしきい値、成果に対する責任、そして人間とエージェントの間でいかに業務を遂行するかを定める必要がある。
4. テクノロジーのソリューションも役立つ
責任とガバナンスは、「人間対機械」という対立構造ではない。パフォーマンスの評価や出力の検証といった側面を支援するソリューションが市場に登場し始めている。システム自身に作業内容をチェックさせるエージェント機能や、出力に対する確信度が低い場合にそれを示す信頼度スコアを組み込んだソリューションも存在する。確かにこの種のソリューションはまだ開発段階にあり、人間の判断と行動を必要とする。リーダーにとって重要なのは、投資するツールが、人間の監視者が「いつ、どこを詳細に確認すべきか」を把握する助けとなるかを確かめることだ。
私たちは破壊的な変化の時代におり、概念実証(PoC)の時代はすでに過ぎ去ったが、最終的な目的地はまだ見えていない。確かなのは、躊躇している時間はないということだ。競合他社はすでに変革を進めている。後れを取らず前進し続けるために、リーダーは単に流行に乗ってエージェントを導入するのではなく、戦略的かつガバナンスの効いた方法で、人間を責任の中心に据えて導入を進めるべきである。



