レーニン・ガリは元CIOであり、現在はAtomicworkのチーフデジタルオフィサーを務めている。
AIエージェントは急速に企業テクノロジーにおける必須要素となりつつある。PWCの調査によると、企業の上級幹部の79%が既に何らかの形でAIエージェントを自社組織に導入している。
小規模な実験から始まったものが、今や本番環境での現実となっている。セールスフォースやSAPからWorkdayやOracleまで、あらゆるプラットフォームが推論、計画、行動を実行して従業員のタスクを自動化できるインテリジェントアシスタントを組み込んでいる。
職場の生産性という点で大きな機会がある一方、混乱のリスクも同様に大きい。より多くのツールが独自のエージェントを追加するにつれ、企業は独立して行動する数十の自律システムを抱えることになる。CIOにとってこの現象は目新しいものではない。過去10年間のSaaSブームでも同様の混乱が生じた。
SaaSからエージェント型の拡散へ
AIエージェントの拡散は、SaaSの急増と同様に、データの断片化とエージェント連携の制御不足という問題をもたらす。データの不協和音に加えて、従業員のエクスペリエンスもより複雑になってしまう。
ウォルマートは最近、展開した数十の社内AIエージェントが別々のインターフェースを通じて機能し、ユーザーの混乱、作業の重複、運用上の摩擦を引き起こしたことを認識した後、AIエージェント戦略を見直していると述べた。
このようなケースでは、エンドユーザーは複数のインターフェースを使い分け、重複するツール間を行き来し、一貫性のないエクスペリエンスに対処することを余儀なくされる。AIエージェントの急速な普及は、業務の効率化ではなく、新たな非効率性とコンプライアンス上の盲点を生み出す可能性がある。
私たちはこれまでも同様の状況を経験してきた。SaaSアプリケーションが急増した際、CIOがガバナンスとID管理のフレームワークを構築するまで、シャドーITが爆発的に増加した。今日の状況は似ているが、より急速で複雑であり、倫理的、法的、運用上の結果をもたらす可能性のある決定に関連している。
AIの無秩序な拡散を抑制する方法
CIOは今すぐ無秩序なAI拡散を防ぐ行動を起こさなければならない。前進するには可視性、説明責任、新たなリスクフレームワーク、そしてより計画的なオーケストレーションアプローチが必要だ。
1. AIエージェントのための統合ガバナンスハブを構築する。
企業がSaaS管理を一元化したように、今日のAI環境にもすべてのAIエージェントを管理するための中央プラットフォームが必要だ。これには、各エージェントに固有のIDを割り当て、使用状況を追跡し、未承認のエージェントを特定し、ポリシーを適用し、エージェントが失敗したり支援が必要な場合にサポートすることが含まれる。おそらく「エージェント型サービス管理」プラットフォームがまさにそれを行うように設計できるだろう。このようなハブがなければ、ITチームはセキュリティ、コンプライアンス、パフォーマンスを確保できず、効果のないエージェントを削除することもできない。初期段階でのガバナンスは、AIを責任を持って拡張するための鍵となる。
2. AIが終わり人間が引き継ぐ境界を明確にする。
繁栄するAIエコシステムは、AIエージェントと人間の介入の間の明確な責任分担に依存している。CIOは、AIエージェントが最も適切に処理するタスク、問題をエスカレーションすべき時期、そして人間とAIシステムがどのように協力する必要があるかを明示的に概説すべきだ。
企業はこれらの境界を明確にせずにAIを導入することが多く、それが作業の重複や説明責任に関する混乱を招いている。早い段階で期待値を設定することで、監査証跡の維持も容易になり、これは信頼性と規制遵守の両方に不可欠だ。
3. リスクとインシデント対応プレイブックを最新化する。
AIシステムは従来のインフラとは異なる形で障害を起こす。ダウンタイムや明らかなエラーではなく、信頼できるように見えるが単に間違っている出力を生成する可能性がある。モデルは時間の経過とともに劣化したり、質の低いデータに影響されたり、悪意を持って操作されたりする可能性もある。
昨日のインシデント対応計画に頼るだけでは、現代のAIエージェントには不十分だ。企業はバイアス、ドリフト、データ汚染、機密データへの不適切なアクセスなど、AI特有の障害に対する新しい分類が必要だ。これらの問題を修正するには、モデルの再トレーニング、コンテキストの改善、プロンプトの再設計が必要になる場合がある。
これらのエスカレーションパスを再設計する際、IT責任者は包括的な監視のために法務、コンプライアンス、セキュリティ、さらには外部モデルプロバイダーも会話に加える必要がある。
4. すべてのAIエージェントのための中央オーケストレーターを作成する。
数十の独立したエージェントを管理することは長期的には持続不可能だ。部門を横断して専門化されたエージェントを調整する単一レイヤーとしてオーケストレーターエージェントを導入することで、ガバナンスの観点からアクションを簡素化できる。人間のチームが機能するのと同様に、AIエージェントも連携して機能するようにオーケストレーションする必要がある。
AIエージェントによってもたらされる断片化されたエクスペリエンスの課題に対処するため、ウォルマートはこれらのAIエージェントを「スーパーエージェント」に統合することを決定した。各スーパーエージェントは顧客、従業員、エンジニア、パートナーなど、特定のオーディエンス向けに設計されている。これらのスーパーエージェントは中央オーケストレーターとして機能し、エンドユーザー向けの単一の統合インターフェースの背後で複数の専門エージェントを調整する。従業員の視点からすると、エクスペリエンスははるかにシンプルになる：1つのインターフェースがリクエストを処理し、舞台裏ではオーケストレーターが適切なエージェントにタスクを呼び出して振り分ける。
このアプローチにより、AIシステムはコンテキストを共有し、インテリジェントにエスカレーションし、冗長性を回避できる。これは効率性を向上させるだけでなく、CIOが企業全体でAIがどのように運用されるかについて完全な可視性とポリシー制御を維持するのにも役立つ。
優れたエージェント型ガバナンスがAIの真の可能性を解放する
AIエージェントが企業アーキテクチャの中核部分になるにつれ、AIを重要なインフラストラクチャとして扱うCIOは、無秩序な拡散のリスクを軽減しながら、はるかに大きな価値を獲得するために自社を位置づけることになる。
鍵となるのは、ガバナンスを制約ではなく実現要因として捉えることだ。監視、説明責任、オーケストレーションのための明確なフレームワークにより、企業は自信を持ってイノベーションを進めることができる。
この新しいクラスのデジタルワーカーをどのように管理、統合、統治するかについて今日私たちが下す決断は、将来的に人間とAIエージェントが効果的に協働する方法の基盤を築くものだ。
