現在、多くの経営チームが、数十のユースケースを含む複雑なエージェント型AIのロードマップを精査している。それぞれのユースケースは、ワークフローや機能にひも付けられている。そこに暗黙に込められている約束は、十分な数のエージェントを立ち上げれば、企業はAIを原動力とする組織へと変貌するというものだ。
だが、話はそれほど単純ではない。範囲の狭い個別の「ベビーエージェント」を構築することは、まだ小さな一歩にすぎない。企業はそれを何百も導入できるが、各エージェントが孤立して動き、導入のたびに改善されないのであれば、いずれ成長は頭打ちになる。
しかも環境は変化し続ける。基盤となるデータが変わり、土台となるモデルが更新されるにつれて、エージェントの振る舞いはずれていく。エージェントには継続的なテストと改善が必要だ。それにもかかわらず、多くの企業はエージェント型AIをSaaSのように扱っている。つまり、購入し、設定し、その後は先へ進めばよいものと考えている。
したがって、次のAI優位性の源泉は、エージェントそのものではない。エージェント同士の相互認識と、それを取り巻く学習システムである。
ラチェットのようなものだと考えればよい。エージェントは、何が機能し、何が失敗し、どこにエッジケースがあり、実際のデータがどのような姿をしているのかを見ることができる。そのシグナルは自動的に取り込まれ、大規模に分析され、人間のレビューサイクルを待たずにエージェントの振る舞いへとフィードバックされる。ラチェットがカチリと一段進む。明日のエージェントは、今日のエージェントよりも測定可能な形で優れている。
エージェントが毎週改善する組織は、サイクルを重ねるごとに競合との差を広げていく。その優位性は複利的に積み上がる。これは、これまで組織が学習してきた方法とは根本的に異なる。従来は、誰かがうまくいったことを観察し、それを書き起こし、他者を訓練し、数カ月後に文書を更新していた。先行企業が過去のどの技術波及期よりも速く差を広げている理由は、ここにある。
ほとんどのプログラムは、生み出した成果によって測定される。削減されたコスト、増加した売上、獲得した効率性である。学習システムは成果だけでなく、各導入が次の導入をより賢く、速く、安価にしているかによっても測定される。その差は非常に大きい。
これは偶然には起こらない。AIで勝つ企業は、最初からそのように設計する。
自己改善するエージェント型システムへの4つのステップ
静的な導入プログラムではなく、学習システムを確立するための4つの施策を示す。
1. 固定したゴールに照らしてシグナルを継続的に取り込む。 エージェントを導入する前に、何を「良い」とするのかを定義する。そのうえで、エージェントが2つのものを取り込めるようにする。何をしたのか（可観測性）と、それが機能したのか（フィードバック）である。この両方が組み込まれていれば、エージェントは動作の仕方を変化させることができ、システムは改善につながったものを残し、そうでないものを捨てることができる。
例えばShopifyは、エージェントが継続的に改善案を提示し、テストする自動最適化ループを運用している。その間、人間はより難しい問題に集中する。ある事例では、すでに十分に最適化されていると考えられていたプロセスに対し、システムが400件の実験を実行した。意味のある成果は1つだけだったが、それは人間のチームなら見つける時間を持てなかった改善だった。
2. 重要な場所に人間を組み込む。 適切なアーキテクチャでは、すべてに人間のレビューを求める必要はない。エージェントは、自信を持てる部分を処理できる。だが学習システムは、エージェントが周縁部分でひそかに自らを調整することも許さない。人間の判断が最も価値を持つ場所に、正確に人を配置する。人間は、本番環境でエージェントが使うワークフロー、スキル、ツールを検証し、現在のプロセスを最適化するのか、新たなスキルとツールの組み合わせで再設計するのかを判断する。エージェントは、特定のデータ環境で何が機能するのかを組織に教え、人間はその教訓をどう扱うかを決める。複利的な優位性は、そのループを意図的に回すことで生まれる。偶然起こるのを待つものではない。
3. 共有メモリーレイヤーを構築する。 データは何が真実かを明らかにし、コンテキストはタスクを開始する際に何が起きているのかをエージェントに伝え、メモリーはそのコンテキストに基づいて行動してきた結果、組織が何を学んだのかを伝える。共有メモリーレイヤーがなければ、新たなエージェントは毎回ゼロから始めることになる。それがあれば、最も成果を上げたエージェントが学んだことが、次のエージェントのためのレイヤーに書き込まれる。難しい顧客にどう対応するか、どの例外パターンが円滑に解決したか、曖昧なエッジケースがビジネスにとって何を意味したのか、といった知見である。10番目のエージェントは、稼働初日から、3番目のエージェントが6カ月後に到達していた水準よりも賢い。エージェントが改善するのはモデルが変わったからではなく、その周囲にあるシステムが時間とともに賢くなるからである。
ほとんどの組織はこのステップを省く。これには、まだ多くの企業が備えていないアーキテクチャ上の規律が必要だからだ。だがその恩恵は数カ月後、再設計を必要としないエージェントという形で現れる。
Madrigal Pharmaceuticalsのエージェント型プラットフォームを例に取ろう。このプラットフォームは、本番環境で発生した意味のある失敗を自動的に新たなテストケースへと変換し、各エージェントの作業を共有メモリーレイヤーに保存して、次のエージェントが活用できるようにしている。かつて構築に数週間かかっていたユースケースを、数時間でリリースできる。
4. 組織横断の可視性を確保する。 従業員が孤立したツールの中でAIを使う場合、その価値はその人の中にとどまる。同じ作業が共有され、観測可能なチャネルで行われれば、そのデータはチームが採掘し、学び、積み上げられる企業資産になる。システム全体は、人材育成プログラムでは到底及ばない速度で学習する。あるチームが発見した洞察は、6カ月後に誰かが会議でたまたま言及したときではなく、同じ日に関連する問題に取り組む別のチームへ届き得る。仕事そのものが教育になるのである。
人間に求められるもの
多くのCEOがまだ問いかけていない質問がある。自社のプログラムは、次にどこへ向かうべきかに関するシグナルを取り込み、それに基づいて行動しているだろうか。それとも、そのシグナルは、発見する人々と、それに基づいて行動する権限を持つ人々との間の溝に消えてしまっているだろうか。
それこそが、学習システムと導入プログラムを分けるものだ。エージェントがシグナルを取り込み、実験を実行し、パターンを浮かび上がらせるようになると、希少な資源は移り変わる。それはもはやエンジニアリングの労力でも、モデルの能力でもない。良い問題を立て、適切な制約を設定し、システムの提案のうちどれを残す価値があるかを判断する人間の能力である。これは、人間をループから外す話ではない。人間の判断が複利的に価値を生む場所へ、人間を移す話である。現実を直視するCEOは、最も難しい部分のためのツール整備、すべてのエージェントを企業資産として登録すること、そしてそれらのエージェントにまたがる再利用可能なパターンを見つけることには、なお意図的な人間の作業が必要だと理解している。
どの企業も、5年後に自社のエージェントが正確に何をしているのかを知ることはできない。まさにそこが要点である。勝者は、最も大きなエージェントの地図を持つ企業ではない。エージェントを1つのシステムとして捉え、その地図を描き直し続けられるだけの速さで学習する企業である。今日、継続的改善を前提にアーキテクチャを設計するという意図的な選択が、持続的で複利的な優位性をもたらすことになる。
