Monish Darda氏はIcertisの共同創業者兼CTOである。
AIエージェントが独立して行動するという概念は、人類に対して暴走する悪意のあるロボットや敵対的なスーパーコンピューターというハリウッド映画のようなイメージを喚起させる。しかし、OpenAIのChatGPTエージェント、Amazon Bedrock AgentCore、SalesforceのAgentforce 3の登場は、はるかに具体的で差し迫った現実を示している。多くのテクノロジーリーダーたちはAIの変革的な可能性を支持するためにこうした神話を払拭する努力をしてきたが、誤情報、セキュリティの脆弱性、予測不可能性への懸念は、止められないAIイノベーションの波の下で依然としてくすぶり続けている。
具体例として：ガートナーは予測している。「2028年までに、企業のセキュリティ侵害の25%がAIエージェントの悪用に起因するようになる」、そして「CIOの40%が、AIエージェントの行動を自律的に追跡、監視、または制限する『ガーディアンエージェント』の導入を要求するようになる」と。
企業を混乱から守り、生成AIエージェントの力を効果的に活用するには、適切なガードレールを提供し、AIがその人間の対応者が従うビジネスのルールを理解できるようにすることから始まる—そのルールは企業の契約書の中に生きて息づいている。
すべてのサプライヤーと顧客の関係は、その関係の枠組みを決定する契約から始まる：商取引が行われるために、各当事者の義務、権利、保護は何か？契約は、法的な力を持つ関係のルールブックである。
何十万もの契約がグローバル商取引の基盤を形成し、世界中のあらゆる業界と地域にわたって企業がどのように売買するかを規定している。現代の環境では、契約書はAIエージェントに適切なタイミングで正しい判断を下すために必要な文脈を提供することで、これまで以上に重要な役割を果たし、確立されたガバナンス、ポリシー、ワークフローに縛ることで、逸脱を防いでいる。
実世界のシナリオ
契約書に基づいて訓練されたエージェントワークフローがAIの意思決定による混乱を防ぐことができる、3つの実世界のシナリオを考えてみよう。
1. 支払いエージェントが正当なサプライヤーの請求書と思われるものを受け取り、最終承認のために取引担当者に転送する。従業員が承認する前に、同じワークフローに組み込まれた契約エージェントが、そのサプライヤーが持続可能な調達義務を果たしていないことを認識し、これにより企業が評判リスクと高額な罰金にさらされる可能性があることを検出する。請求書は自動的に拒否され、違反は適切なチームに転送され、コストのかかる評判の損害と罰則を防ぐことができる。
2. 3年契約の更新後、顧客がサービスエージェントを使用して、合意した金額よりも高い最初の請求書に異議を唱える。契約エージェントがすぐに介入し、法務部門を関与させることなく、修正された契約の更新条件を強調する。エージェントによるこの迅速な対応は、数百万ドルの収益漏れを防ぐのに役立つ。
3. グローバル企業の複数の重要市場に影響を与える新しいデータプライバシーガイドラインが可決される。一連のAIエージェントが調達エージェントのキュー内のすべてのアクティブな交渉を一時停止し、署名前に最新の法律に合わせて契約を修正し、企業が迅速に責任やリスクを回避できるようにする。
AIエージェントのためのガバナンスチェックリスト
これらの実世界のシナリオを実現するためにAIエージェントを契約ワークフローに導入する前に、ビジネスリーダーはシンプルなガバナンスチェックリストの実装を検討すべきである。
まず、可視性を確保することから始める。エージェントが効果的に機能するためには、契約書を一元化し、コアシステムと統合する必要がある。
次に、どの決定を自動化できるか、どこで人間へのエスカレーションが必須かを定義することで監視体制を確立する。
最後に、AIモデルはそれが訓練されるデータの質に依存する。信頼性が高く正確なデータを、エージェントが行うすべての決定の基盤とする。これら3つの要素を整えることで、AIエージェントは人間の判断を損なうのではなく、増幅することができる。
リスクからレジリエンスへ
関税、政治的不安定、サプライチェーンの混乱の中で、生成AIをどこでどのように活用するかについての戦略的決定を下すことはこれまで以上に困難になっている。多くのリーダーはAIをすべての問題を解決する「特効薬」と見なしているが、実際には、ルールとガバナンスなしに企業に放たれたエージェントは、解決策を生み出すよりも問題を悪化させる可能性が高い。
エージェント型AIへの信頼を構築し、エージェントが最高の仕事をできるようにするには、最も基本的かつ重要な機能を定義するパラメータに基づいたトップダウンの生成AI戦略を確立することから始まる：企業がどのようにお金を使い、お金を稼ぎ、「合理的な」リスクを管理するかということだ。
エージェントワークフローがより自律的になるにつれて、リスクと報酬の両方の機会が並行して拡大する。エージェントが契約を通じてビジネスのルールを理解できるようにすることで、他のエージェントや人間の決定を認証し保護することができ、彼らが集合的な盾として機能して収益を守ることを保証する。
信頼がプレミアムとなる世界では、生成AI戦略への信頼は、それを支えるデータへの信頼から始まり、ビジネスにおける最も確実なデータは契約書の中に存在している。
Forbes Technology Councilは世界クラスのCIO、CTO、テクノロジーエグゼクティブのための招待制コミュニティです。私は資格がありますか？
