AIは、自信ありげに話すことが実に得意になった。問題は、間違っているときも同じくらい自信を持っている点であり、企業環境ではその差が現実の重大な結果をもたらしかねない。
これは、生成AIの実験段階を超え、AIエージェントの導入へと進み始めた多くの企業リーダーが直面しつつある現実だ。こうしたシステムは今や、行動を推奨し、ワークフローを開始し、ユーザーに代わって意思決定を行うことができる。生産性向上のメリットは明白だ。もはや問うべきは「機能するかどうか」ではなく、「どこまで信頼できるか」である。
能力から結果へ
企業リーダーは現在、行動を推奨し、ワークフローを開始し、さらにはユーザーに代わって意思決定まで行えるAIエージェントへと歩みを進めている。その可能性は途方もなく大きいが、リスクもまた同様に大きい。
ここ数カ月、企業向けソフトウェアベンダーや事業運営責任者とのブリーフィングを重ねる中で、一貫したテーマが浮かび上がってきた。エージェント型AIへの熱狂は本物だが、懸念もまた本物である。ドラフトメール内の誤りなら不便で済む。しかし、誤った前提に基づいてサプライチェーンの経路を変更したり、取引を承認したり、顧客対応の優先度を組み替えたりするエージェントは、まったく別次元の話になる。
自信がリスクになるとき
説明責任を伴わない自信は、悪いタイミングで表面化する脆弱性にほかならない。
私は最近、ルーティン業務を処理させるためにエージェントを作成した。指示は明確に思えたが、エージェントは実行日を誤って解釈し、その結果私は会議に出そびれてしまった。
この種のエラーは、今多くの組織で問われている、より大きな問いを提起する。AIエージェントが自然言語のリクエストを受け取り、それを複数のシステムで実行できるのだとしたら、従来の企業向けソフトウェアの多くは不要になるのではないか。数十年かけて構築されてきたダッシュボード、承認フロー、アプリケーションは、依然として必要なのか。
記録システムがなお重要な理由
答えは「そう単純ではない」だ。インターフェースは劇的に変わるかもしれないが、その内側の複雑性は残り続ける。企業向けソフトウェアは、単にクリックする対象を提供しているのではない。それは、数十年にわたって発達してきたルール、権限、コンプライアンス基準、組織のロジックを蓄えたリポジトリなのだ。フロントエンドがチャットボックスのように見えるようになったからといって、それが消えてなくなるわけではない。むしろ、エージェントは自らの自信の正確性を検証するための権威ある拠り所を必要とするため、その重要性は一層高まる。
だからこそ私は、企業向けソフトウェア進化の次章では、既存の記録システムの上に乗り、それに統制されるレイヤーとしてエージェント型AIを開発する企業が勝者になると考えている。Salesforce（セールスフォース）、ServiceNow（サービスナウ）、SAP、Microsoft（マイクロソフト）、あるいは急速に台頭する数多くの新興プレーヤーのいずれを取り上げても、導かれる結論は同じだ。エージェントの有用性は、その周囲にあるガードレールに依存する。エージェントに真の自律性を与えつつ、成果については人間が説明責任を負う仕組みを構築できた企業が、競合を大きく引き離すだろう。
リーダーへの要請：ガバナンスするか、遅れを取るか
企業リーダーにとって、これは2つの落とし穴を避けることを意味する。第一は、行き過ぎたデモに幻滅してエージェント型AIを過剰宣伝と見なしてしまうことだ。基盤となる技術は急速に発展しており、完璧を待ち続ける組織は取り残されるだろう。だが、さらに危険な道は、適切なガバナンス、監査可能性、エスカレーションの仕組みを整えないまま、業務クリティカルなプロセスにAIエージェントを投入することである。
自信と正しさは同じではない。確信ありげに話すよう設計されたAIエージェントは、前提が誤っているときも同じくらい自信満々に振る舞う。
成功する組織とは、最も見栄えのするデモを披露する組織ではない。舞台裏でより困難な作業――エージェントに何を判断させるか、どこで人間の監督を必要とするか、あらゆる決定をどのように追跡・監査するかを定義する作業――を成し遂げた組織である。
これはAIへの制約ではない。この技術を実用に耐えるものにするプロセスなのだ。
AIエージェントは、あらゆる企業の働き方を変革するだろう。そこから恩恵を受けるリーダーは、インターフェースを変えることは容易な部分にすぎず、その下にある組織的な判断力、説明責任、ロジックを維持することこそが困難な、そして最も重要な部分だと理解している人々だ。
開示：Microsoft（マイクロソフト）は、世界中の他の多くのハイテク企業と同様に、筆者が創業したCreative Strategies（クリエイティブ・ストラテジーズ）の調査レポートを購読している。
