AI黎明期、チャットボットは明確に存在感を示す声だった。
もちろん文字どおりではない。音声モデルが登場するのは後のことだ。GPTやGeminiなど、自分が選んだモデルにログインし、プロンプトを打ち込んで会話を始める。結果は目に見える。モデルがテキストを吐き出し、それを評価する。
だが今、状況は変わりつつある。エージェント型AI（自律的に判断・行動するAI）は自律性が高く、監督は少なく、場合によってはワークフローの中での存在感も薄い。人間がAIシステムにより多くの制御を委ねる一方で、それは目立ちにくいものにもなり得る。
エージェント型AIは「部屋の中の巨人」である。舞台裏で静かにあらゆることをこなしているが、狙いの誤りや、さらにはハルシネーション（幻覚）も依然としてこれらのシステムを悩ませている以上、モデルの仕事を確認することは重要だ。要するに、「完璧な人（もの）などいない」ということだ。
「エージェントのワークフローは強力だ。しかしガードレールがなければ、予測不能になる」——このテーマについて私が見つけたLinkedIn記事で、Srinivas Reddy B.はこう書いている。「従来のシステムでは、APIが決定論的なロジックを実行する。エージェント型システムでは、LLM（大規模言語モデル）が次に何をするか——どのツールを呼び出すか、どのデータを取得するか、どのアクションを実行するか——を決める。その自律性がすべてを変える」
確かにそのとおりである。
Imagination in Actionのパネルが解き明かす
1月にスイスのダボスで開催されたImagination in Actionカンファレンスの最近のパネルディスカッションで、PracticalAIのCEOでPingYouのCOOでもあるMatthew Hayesが、Fiddlerの創業者兼CEOのKrishna Gade、Autopilotの共同創業者兼CEOのChristian Umbach、Ventの創業者兼CEOのGilly Yildirim、そしてAndiron.aiの創業者であるCyrus Roepers-Chamlouにインタビューした。パネルでは、強力なエージェント型ツールにどのようにガードレールを加えるかが語られた。
Yildirimの会社は「デジタルツイン手術の会社」を掲げている。Ventでは、手術室の医師を支援するためにデジタルツイン・システムを設計している。
「私たちは複数の病院で、毎週ライブで手術を行っている」と彼は述べた。「パートナーも複数いる。いわゆるミドルマーケット向けのリリース段階にある。つまり、関心を持つすべての顧客に広げる前に、選定した病院と協力して概念実証を進めている」
彼は、画像診断や意思決定支援を含む複数段階のプロセスが現代医療の姿を変えつつあると説明した。
「医療はどこかから始めなければならなかった」とYildirimは語った。「多くはランドマーク（目印）であり、ヒューリスティック（経験則）だった。外科医は毎回、手術に取り組む特定のやり方を持っていた。時間を節約し、脳のエネルギーも節約する。『毎回これをやれば、良い結果が出る』と言えるからだ。しかし統計を少しでもやったことがあるなら、60%の確率では運が良いだけで、40%の確率ではそうでもないと分かるはずだ。つまり、特定の解決策を必要としながら十分に満たされていない患者が多くいる」
彼の製品は、バイアスを取り除くのだという。
「筋肉や軟部組織がすべてをどう駆動しているかを見て、そして、より良く感じるためにインプラントをどこに配置すべきかを理解する」と彼は語った。
ガードレールという観点では、同社がFDA（米食品医薬品局）の承認を得ていることをYildirimは説明した。
Roepers-Chamlouの会社は、意思決定において企業を支援している。
「次に取るべき行動や、何をすべきかを見極める手助けをする」と彼は、シード段階の同社を紹介しながら語った。
「プラットフォームを多く作り込み、エージェントも数多く構築してきた。シグナルを聞き取り、さまざまなアクションを実行するために使う特定のエージェントだ。約100社の顧客と並走しながら開発してきたし、さらに200社ほどが、支援とプラットフォームへのアクセスを待っている。この市場投入前のフェーズで非常に有用だったことの1つは、当初、チャット・ファーストの機能、あるいはチャット・ファーストのインターフェースから始めたことだ」
しかし、それは重大な問題に直面したという。彼は続けた。
「ほぼ即座に、多くの顧客がこう言った。『やめてくれ。これは要らない。AIとの付き合い方として、こういうのは望んでいない』」
では、彼らは何を望んだのか。
「一定のガードレールとパラメータの範囲内で、バックグラウンドで動いてほしかった」と彼は語る。「そして、重要な意思決定ポイントや重要な領域に限って出てきてほしい。私たちが見たのは、チャット・ファーストから離れた瞬間に、プラットフォームへのエンゲージメントが一気に跳ね上がったということだ」
「結局のところ、私たちは皆、静かに物事を片づけてくれて、まるで魔法のように何かが起き、こちらは実質的に何もしなくてよい——そんなアシスタントを求めているのだろう」とHayesは思索した。
Amazonで売る
Umbachの事業は、Amazonの出品者が可視性を獲得するのを支援している。買い物をする主体が人間ではなくエージェントになると、これは少し違った形で機能する。
「当初の焦点は、まさにリスティング最適化にあった」と彼は述べた。「あなたも私もAmazonで買い物をするとき、『リスティング』と呼ばれる商品オファーを見る。優れたものもあれば、マーケティング文言が手薄なものもある。これは、プラットフォーム上で商品がどう発見されるかに大きく関係している。そこで私たちの最初の大きな一歩は、こうだった。見ている人、買い物をしている人にとってより関連性の高いものにするために、これらの商品リスティングを自律的に更新し、文脈づけできるシステムをどう構築するか、である」
Autopilotのアプローチの有用性を説明するにあたり、彼はかなり手の込んだ比喩を使った。
「私は航空機の熱狂的ファンで、私たちは副操縦士になりたいのではなく、飛行機に搭載されるオートパイロットのような存在になりたい、というアプローチから始めた。つまり、フライトの95%を実質的に飛ばすものだ」と彼は語った。「スイッチを切れば、パイロットが運転席に座る。そうでなければ、オートパイロットがそれを担う。燃費も良く、フライトは速くなり、より安全になる。同じことがAmazonにも当てはまり、私たちはブランド向けに10万点以上の商品を更新している」
彼が示唆するところでは、ショッピングのプロセスそのものが根本的に変わった。
「ショッピングはもはや、30件の結果が並ぶページではない」と彼は述べた。「はるかに会話的で、実際に表示される結果は1〜3件かもしれない。だからブランドは、商品データや商品そのものに文脈を持ち込むことに、より注力する必要がある」
「エージェント型ショッピングは現実になりつつあり、エージェントが購買というタスクを完了する。そして繰り返しになるが、私たちにとってそれが意味するのは、エージェントが買い物客の好みを代表するようになるということだ」
未来へ
「私たちは7年前、『企業においてAIが第一級のソフトウェア成果物になる』という前提でスタートした」とGadeは、Fiddlerがこの領域に参入したことについて語った。「そして今、それはエージェントを通じて実現している。エージェントとは、生きて呼吸するAIアプリケーションであり、もちろん基盤モデル（foundation models）に支えられ、複数のタスクをこなすドメイン特化モデルによって支えられている」
同社のブランド提案の一部は、エージェント実装にまつわる不確実性の問題を解決する支援にあると、彼は説明した。
「従来のソフトウェアアプリケーションは、コードを書き、コンピュータに指示を与えれば、期待どおりに正確に実行される。だがエージェントでは、舞台裏で起きるモデル呼び出しのために、ほとんどの開発者にとってそれは大きなブラックボックスになる。そこで私たちは、AIチームがこれらのエージェントを、より良く、より信頼できる形で構築できるよう支援している」
以上は、エージェント型の時代に企業とどう向き合うかについてのいくつかの考えを示している。あなたはどう思うだろうか。コメントを寄せてほしい。
