コンピューターサイエンス専攻で敵対的ウェブ自動化を専門とするニコ・ヘンギ氏は、YCの支援を受けるAIネイティブ保険ブローカーCaseyの共同創業者である。
こんな状況を想像してほしい。あなたの会社が15の保険ポータルサイトで見積もりを自動化するためにAIウェブエージェントを導入する。3カ月間は順調に動作し、経営陣は大喜びだ。ところがある火曜日、ポータルサイトがリニューアルされる。その保険会社から出される見積もりがすべて間違ったものになる。明らかに間違っているわけでもなく、エラーメッセージが出るわけでもない。静かに、間違っているのだ。
ウェブエージェントは依然として稼働している。新しいレイアウトにも適応し、もはや以前の意味を持たないフィールドに自信を持って入力している。誰かが気づく頃には、何百もの破損した見積もりがすでに顧客に送られている。
これは仮定の話ではない。私はこうした事態のバリエーションを実際に目にしてきた。そして、解決策はより賢いモデルではない。
真の飛躍、しかし馴染みのある地盤で
AI業界の大手企業とスタートアップの波が、ブラウザを制御し、ウェブアプリをナビゲートし、人間と同じようにタスクを実行するツールを構築している。過去12カ月で、これらのシステムはほとんど使えない状態から驚くほど有能になった。100ステップのワークフローを推論し、レイアウトが変わっても適応し、従来のRPAボットなら即座にクラッシュするようなエラーから回復できる。
多くの企業ワークフローにとって、これらは今日唯一の実用的な選択肢だ。API（提供されている場合でも）は、基盤となるプラットフォームが提供するもののほんの一部しかカバーしていないことが多く、そのギャップは一夜にして埋まることはない。
しかし、業界はこれらのエージェントをより速く、より賢くすることにほぼすべてのエネルギーを注ぎ込んでおり、より優れたモデルでは解決できない問題を無視している。我々は以前にもここにいた。従来のRPAは同じ壁にぶつかった。初期のRPAプロジェクトの30%から50%が期待されたROIを達成できなかった。根本原因は表面にあった。
ウェブUIには契約がない。スキーマもバージョン管理も非推奨通知もない。まさにこの理由から、多くのRPAプラットフォームは最終的にAPI優先のアーキテクチャへと移行した。AIウェブエージェントははるかに回復力があるが、10年間のRPAの学びを無視すべきではない。それらは依然として全く同じ契約のない表面で動作している。
情報の欠如
より深い問題は、変化するウェブUIではなかった。それらが何が変わったのか、いつ変わったのか、それが実際に何を意味するのかについて、構造化された情報を提供しないことだ。
APIが進化すると、契約もそれとともに進化する。新しいフィールドは文書化され、破壊的変更にはフラグが立てられる。仕様と表面は同じものだ。ウェブUIはこれらのいずれも提供せず、それこそが「AIウェブエージェントは適応する」という議論が構造的限界に達する場所だ。
AIウェブエージェントは表面的な変化にはうまく対処する。ボタンの位置変更、ページのスタイル変更、さらにはフィールドの削除にも対応できる。しかし、より微妙で危険な種類の変化、私が「意味的ドリフト」と呼ぶものを考えてみよう。
保険ポータルに「年間売上高」というラベルのフィールドがある。これは常に米国事業からの売上高のみを意味していた。保険会社が定義を全世界の売上高に拡大するが、ラベル自体は変わらない。ページは同一に見える。ウェブエージェントは常にそうしてきたように、米国の数字を入力する。すべての提出書類が売上高を過小評価し、顧客に対して不十分な補償の見積もりを生成する。定義の変更は必須のウェビナーで伝えられた。ページ上にも、フィールドラベルにも、エージェントが見ることができる場所のどこにもない。
これは情報ギャップであり、単に存在しない情報を推論によって乗り越えることは、どれだけモデルの能力があってもできない。
失敗が静かに進行するとき
エージェントのエラーを許容する通常の議論は、ROIがまだ機能するというものだ。しかし、その計算は失敗が可視化されている場合にのみ成り立つ。サポートされている表面では、通常そうだ。何かが壊れれば、それに気づく。サポートされていない表面では、失敗は静かだ。エージェントは停止せず、触れるすべてのトランザクションに間違った解釈を適用する。
人間ならおそらく何かがおかしいと感じるだろう。トレーニングに参加し、ベンダーの通知に目を通し、ポータルで何年も働く中で本能を養ってきた。AIエージェントにはそのいずれもない。同じ間違いを、毎回、高速で繰り返す。リスクは検出されない責任エクスポージャーが、規模を持って発生することだ。モデルのアップグレードではこれを修正できない。
情報ギャップを埋める
AIウェブエージェントのはるか以前から大規模なブラウザ自動化ソリューションを構築し、現在は数十の保険会社ポータルで日々それらを実行している私は、この教訓を繰り返し学んだ。ボトルネックは決して能力ではない。
AIウェブエージェントは今日必要であり、APIが届かない場所では必要であり続けるだろう。問題は投資をどこに集中させるかだ。現在、業界は知能に過度に焦点を当てているが、真のボトルネックは情報だ。
これを正しく理解している企業は、可能な限り契約から始める。APIが存在すれば、ウェブエージェントの方が設定が速く見えても、それを使用する。APIが存在しない場合、ベンダー契約に機械可読な統合条件を交渉する。
契約が存在しない場合、最良のチームはそれを構築する。ページ上にないすべてのもの、つまりフィールド定義、ベンダー通知、提出ガイドへのアクセスをウェブエージェントに与える。コンテキストを持つエージェントは意味的ドリフトを捉えることができる。それを持たないエージェントは、どれだけ賢くても捉えることができない。
最終目標は、すべてのベンダーを今日の硬直的なAPIに強制することではない。新しい統合表面が出現するだろう。従来のAPIよりも柔軟だが、ウェブUIに欠けている意味的契約を持つものだ。認証されたエージェントアイデンティティや新たな機械可読コンテキストプロトコルのような初期の開発は、この変化の兆候だ。今この変化を受け入れるチームが、おそらく先を行くことになるだろう。
ブラウザは契約ではない。AIウェブエージェントはそれを忘れさせるほど強力だ。忘れてはならない。
フォーブス・ビジネス・カウンシルは、ビジネスオーナーとリーダーのための最高の成長とネットワーキング組織である。参加資格はあるか？
