エージェント型AIの時代に突入しつつある今、この点については多くのコンセンサスが形成されているが、私たちは環境がどのように見えるかを考え始めている。AIエージェント同士はどのように対話するのか？どのような自己組織化が標準となるのか？
「新たな組織の青写真が浮上しつつある」と、マイクロソフトのアレックス・フレック氏は記している。「それは機械知能と人間の判断を融合させ、AI主導だが人間が統率するシステムを創出するものだ」
「統率する」という言葉には、大きな重みがある。具体的に、人間はどのようにエージェント群を管理するのか？そして、平均的なプロセスにおいて、どの程度の人間の介在が残るのか？
議論を聞く
私は4月にマサチューセッツ工科大学（MIT）のイベントに参加し、これらの問いについて議論するパネルの話を聞いた。Imagination in Actionカンファレンスで、Nutanix（ニュータニックス）の最高AI責任者であるデボ・ダッタ氏が、Salesforce（セールスフォース）のシニアディレクターであるアントニオ・フィゲイレド氏、Google（グーグル）のプロジェクトリーダーであるサム・シャラフ氏、Kyndryl（キンドリル）のエンジニアであるパルタ・マディラ氏、そしてGlaswing Ventures（グラスウィング・ベンチャーズ）の創業者兼マネージングパートナーであるルディナ・セセリ氏にインタビューを行った。
ダッタ氏は、エージェント群システムについて、ポップカルチャーから引用した独自の概念を持っていた。
「これは私の漫画版です」と彼は言った。「私は漫画と『怪盗グルー』シリーズが大好きなので、（エージェントを）『ミニオン』として考えています。もしミニオンに適切なガードレールとガバナンスを完全に設けず、ミニオンが世界中の異なる指導者によって所有され、互いに対話できるとしたら、社会に大きな影響を与えると思います。私たちがどちらの道を選び、ミニオンの構造とミニオンの階層をどう構築するかによって、社会はかなり変わるでしょう」
エージェント間の接続は独自仕様になるのか？
ダッタ氏は順番に、各パネリストに対し、エージェント型の未来を、異なる企業の旗印の下にある内部エージェントチームとして見ているのか、それとも共通プロトコルが自由な相互作用を可能にする、よりオープンな「エージェントのインターネット」として見ているのかを説明するよう求めた。
コンセンサスは、エージェントのインターネットが未来であるというものだったが、一部のパネリストは但し書きを付け、その地点に到達するには時間がかかり、その過程で成長痛が伴うと主張した。
「私は『インターネット陣営』です」とフィゲイレド氏は述べた。「しかし、インターネットは少しの間、おそらく今後18カ月間は留まると思います。企業が現在行っている初期実験、初期作業を進めている間です。それは問題ないと思いますし、有益です。それは企業が筋肉を鍛え、既存の限定的なユースケースとワークフローを理解し、ガバナンスや能力の面で経験を積むのに役立ちます」
「エージェントは組織の境界を越えて対話する必要があります」とマディラ氏は述べた。「エージェントはサービスプロバイダーとして公開される必要があります。なぜなら、ビジネスモデルもAI企業にとって、そして将来AI企業になる企業にとって変化しているからです」
「ワークフローなどを実行できる従業員エージェントがあります」とシャラフ氏は付け加えた。「しかし、エージェントのインターネットに関しては、複雑さと規模を別のレベルに引き上げると思います」
セセリ氏は、ある種の混合的な見通しを持っていた。
「私は、大部分においてこれはエージェントのインターネットになると信じています」と彼女は述べ、それを「勝者が大半を獲得する」シナリオとして特徴づけた。「しかし、それが完全にインターネットになるとは思いません。イントラネットの部分もあると思います。クラウドに関する同じ類推に沿って言えば、パブリッククラウドがありますが、仮想プライベートクラウドもあり、それらは共存しています。一方が他方よりも大幅に大きいことは分かっていますが、それぞれに果たすべき役割があります」
レイヤーケーキの検証
ダッタ氏がパネルに尋ねた次の質問は、技術スタックの最も重要なレイヤーについてだった。
フィゲイレド氏は、プロセスにおける可観測性が重要であると指摘した。
シャラフ氏は、オーケストレーション、信頼、ガバナンスの価値を挙げた。
「エージェントが何をしたか、誰と話したか、そしてなぜそうしたかを伝えられないなら、それは企業向けエージェントではなく、負債です」と彼は述べた。
マディラ氏は、同様の指摘をするために異なるレンズを使用した。
「エージェントから適切な種類のテレメトリーデータが出てこないなら、これは単に分散された不確実性になるだけです」と彼は述べた。
「マルチエージェントシステムにおいて、アイデンティティこそが真の鍵です」とセセリ氏は述べた。「アイデンティティは、セキュリティとサイバーセキュリティとガバナンスが現在破綻している場所であり、脆弱性のポイントです。実際、あるエージェントから次のエージェントへの引き継ぎを考えるとき、明確なアイデンティティがなければ、それが安全かどうかを知ることは非常に困難です。エージェントが設定された境界と付与された権限に従って行動しているかどうかを知ることは非常に困難です」
クイックテイク
ロジスティクス、監査、その他の実装の側面について話し合った後、ダッタ氏はライトニングラウンドで締めくくり、パネリストにエージェント型の未来全般について数語を投げかけるよう求めた。
「燃料のコストを測定するつもりですか、それともより重要なのは、旅全体のコストですか？」とフィゲイレド氏は問いかけた。
「マルチモダリティを考えてください」とシャラフ氏は述べた。「音声、視覚、デバイス、ロボットです」
「1年目：混沌、そして5年目：不可視」とマディラ氏は述べた。
「それはどこにでもあるでしょう」とセセリ氏は述べ、パネルを締めくくった。「5年後には、AGI（汎用人工知能）について話し始めるべきだと思います」
これは私にとって、AIエージェント群で私たちが何をしようとしているかについての関連性の高い考察だった。これらの「小さな爪」の協調的可能性は、今後、企業においても、生活においても、大きな問題となるだろう。
