ティモシー・J・ジャルディーノ博士はmyWorkforceAgents.aiの創設者である。
以前、私は企業がエージェント型AIを事業に深く組み込む前に、AI移行誓約を必要とすることについて論じた。この誓約は象徴的な声明ではない。デジタル労働力が世界的に労働力モデルを再構築し始める前に、AIがどれだけ迅速に導入され、統制され、測定され、エスカレーションされるかを定義するリーダーシップのコミットメントである。
しかし、方針が設定され、デジタルワーカーを適切にオンボーディングした後、次のステップは、業務成果物が人間、AIシステム、説明責任を持つ意思決定者の間でどのように移動するかを決定することだ。しかし、私は単にデータを転送することについて話しているのではない。インテリジェンスを提供することについて話しているのだ。
ハンドオフ：AI移行誓約の次のステップ
組織は既に、人々の間で業務を調整する方法を知っている。人事部門は、従業員が境界なしに業務を行わないことを保証する。権限が定義され、責任が委譲され、複雑性やリスクが増大したときに適切な人物が介入することを保証するエスカレーションパスが確立される。しかし、AIがワークフローに入ると、同じ規律がしばしば欠如する。この誤りは、最も一般的にはハンドオフの失敗として現れる可能性がある。
人的資本業務において、ハンドオフまたは業務の移行とは、業務成果物、判断、または説明責任が関係者間で移行する任意の時点である。これらは、情報が送信されただけで業務が引き継がれたとは見なされないことを保証する組織的な管理ポイントである。それは承認され、理解され、受け入れられなければならない。効果的なハンドオフでは、文脈が共有され、リスクが強調され、次のステップが明示的にされ、シームレスな継続性が保証される。
今日、人間とAIのハイブリッド職場では、ハンドオフには、AIシステムが問題をエスカレーションしたり次のステップを推奨したりすること、AIエージェントが業務を別のエージェントにルーティングすること、または人間がAI生成の決定を改善してからワークフローを自動化に戻すことが含まれる可能性がある。しかし、エージェント型AIは人間の推論に似ているかもしれないが、経験豊富な人々がしばしば行うように曖昧さを処理しないため、課題が生じる可能性がある。人間がトーンや経験を通じて理解することは、ハイブリッドワークフローが成功するためにAIに対して明示的に定義されなければならない。
ほとんどの組織はこれらの移行ポイントを意図的に設計しないため、予測可能な故障が発生する。AIが意図された範囲を超えて動作すること、可視性なしに移行が発生すること、従業員がいつシステムを信頼し、いつ介入すべきかを知らないことである。これらの問題は、即座の失敗として現れることはめったにない。代わりに、摩擦、不一貫性、時間の経過とともに採用の減少として現れる。
データ転送からインテリジェンス提供へ
ハンドオフが存在する場合でも、それらはしばしば不完全である。それらは受け取る側に何が起こったかを伝えるが、業務を継続するための準備をさせない。
ビジネスコールの不在着信を考えてみよう。弱いハンドオフは、単に電話が不在着信だったと報告する。強いハンドオフは、潜在的な買い手が特定のサービスについて電話をかけ、資格があるように見え、利用可能性について尋ね、定義された時間枠内に連絡すべきであることを説明する。違いは書式設定以上のものである。それは判断である。
この規律は、ワークフローがAI間の調整に拡大するにつれて、さらに重要になる。これらの環境では、1つのシステムが資格を判定し、次のシステムが実行し、別のシステムが結果を監視する可能性がある。明確な移行基準がなければ、仮定は機械速度で増大する可能性がある。早期に導入された小さなエラーは、人間がそれを見る前に複数のシステムに組み込まれる可能性がある。それがエージェント型AIを活用する最大のリスクの1つである。
ハンドオフは双方向で機能しなければならない
ハンドオフ基準の確立は、双方向に適用されなければならない。AIツールはタスクを引き継ぐときに人間が行動する準備をさせるべきであり、人間はAIが引き継ぐときにAIが考える準備をさせるべきである。つまり、システムは文脈、解釈、推奨される次のステップを提供し、業務が引き継がれるときに明確な意図、関連する制約、定義された結果を受け取らなければならない。その構造がなければ、有能なシステムでさえ大規模に不一貫性を導入する可能性がある。
AIがあまりにも頻繁にエスカレーションすると、従業員は圧倒される。遅すぎるとリスクが増大する。AIが十分な文脈なしに業務を移行すると、フラストレーションが蓄積する。時間の経過とともに、従業員はシステムを無視し始めるか、過度に依存するかのいずれかになる。どちらも効果的なコラボレーションにはつながらない。
考慮すべき重要な運用上の現実もある。エージェント型AIは静的な環境では動作しない。それは配置された環境から学習し、それを反映する。したがって、ハンドオフが一貫していない場合、システムはそれを吸収し、システムがどのように動作することを意図されていたかと実際にどのように動作するかの間にドリフトを生み出す。
AIをスケーリングする前にハンドオフを設計する
この現実を考えると、組織は、人間、AIシステム、説明責任を持つ意思決定者の間で業務がどのように移行するかを概説せずに、AIエージェントを重要なワークフローに展開すべきではない。つまり、エスカレーションルール、承認しきい値、所有権基準、およびハンドオフが完了したと見なされる前に何を受け入れなければならないかを定義することを意味する。
仕事の未来は、AIと人間のチームの間で業務がどれだけうまく移動するかによって定義される。成功したい組織は、機械実行と人間の判断の間の最も明確な移行を設計する。したがって、組織全体にAIを拡大する前に、移行の瞬間を定義すること。
• 受け取る側は何を知るべきか？
• どのような権限が移行されるのか？
• 受け取る側はどのような決定を下す準備をすべきか？
• どのような文脈、解釈、推奨が含まれるべきか？
• ハンドオフが完了する前に何を受け入れなければならないか？
これらの答えが明確でない場合、ワークフローは完全に設計されていない。それが業務である。
