ゾーホー、ランプラカシュ・ラママーシー
本記事で表明される見解は著者個人のものであり、必ずしもデル・テクノロジーズの見解や立場を反映するものではない。
AIをどう活用するかを検討していた段階から、企業は今やAIへの取り組みをいかにビジネスインパクトに転換するかを模索し始めている。世界中の企業がAIの投資対効果を最大化しようとしているこの重要な局面において、文脈理解能力こそがAIがどれだけの価値を付加できるかを左右する最大の要因となる。
企業は今、LLM（大規模言語モデル）がビジネスオペレーションを変革する計り知れない可能性を世界的に認識しており、この強力な力を自社の優位性として活用しようと取り組んでいる。LLMは、企業内のさまざまなシステム、チーム、データセットを接続するオーケストレーション層として、ますます機能するようになっている。
しかし、LLM単体では最新データに接続することができず、より深いAI導入のボトルネックとなる可能性がある。また、企業にとってプライバシー上の懸念も生じる。AI進化が猛スピードで進む中、LLMだけでは企業ニーズを満たすことはできない。そこで登場するのがエージェント型AIだ。
文脈理解能力の解放
AIの文脈理解能力を優先する場合、オープンソースのLLMは主に汎用的で消費者中心であり、カスタマーサポート問い合わせの迅速な解決といった特定の企業グレードのユースケースとは大部分が互換性がない。LLMのサイズを絞り込むことで、メール全体の要約やチケットサポートといった特定のタスクに取り組むことができる。これはより最適化され、エネルギー効率が高く、プライバシーを重視したものとなる。
しかし、最もタスク特化型のLLMであっても、根拠のある文脈を欠いている可能性がある。LLMは論理的ではなく、むしろ確率的かつ統計的な性質を持つ。AIに関して言えば、真のビジネス価値は、組織固有のデータセットや基本的事実と密接に結びついた知能にあり、それが意味のある正確な洞察を提供できる。エージェント型AIは、LLMとその特定の企業情報との間のギャップを埋める役割を果たす。
エージェントはオーケストレーターとして機能し、APIやデータベースを活用してリアルタイム情報を取得し、それをLLMに供給する。エージェント型AIフレームワークは、LLMが訓練データを超えて現実世界と対話するための目と耳となり、顧客により文脈豊かで動的な応答をもたらす。
例えば、エージェントがローン申請を承認する場合、検証ワークフローを通じて実行する。エージェントは、ローン承認のための信用スコア要件といったビジネスルールや、過去3カ月間の顧客の取引詳細といったリアルタイムの財務データに対して申請を照合する。そこからエージェントは今後の決定を推奨し、それはすべて数分以内に行われる。
プライバシー重視の設計
プライバシーとデータセキュリティへの懸念は、企業のAI導入における潜在的な障壁となる。LLMは膨大なデータセットと中核的な知的財産で訓練されており、その情報を保護することは譲れない。
企業向けのエージェント型フレームワークは、プライバシーを基盤として構築されるべきだ。エージェントは、タスクを実行するために必要な最小限の情報のみが提供されることを保証する厳格なアクセス制御と権限で設計されなければならない。内部データへのアクセスは厳格に管理され、エージェントは継続的に監視される。
エージェント型AIはまた、RAG（検索拡張生成）プロセスを活用し、LLMのデータアクセスを制限する。例えば、顧客がリクエストを行う場合を考えてみよう。顧客に文脈的かつ最適なサポートを提供するために、企業のナレッジベース全体がLLM内に存在する必要はない。RAGを通じて、エージェントは外部データベースからリクエストと顧客履歴に関連する情報を取得し、出力を生成するためにその情報のみをLLMに提供する。
LLM＋エージェント＝企業グレードの文脈理解能力
AIの未来は、文脈やセキュリティといった要因への制御を失うことなく、顧客体験を向上させるためにAIが提供できる能力のレベルにある。プラットフォーム内で適切なプライバシー基盤を備えたLLMとエージェントのスマートな組み合わせを通じて、企業は妥協することなくAIの強力な能力を解放できる。
ゾーホーでは、リアルタイムでエージェントからの最新データで拡張されたLLMの知能を顧客に提供できている。Dell AI Factory with NVIDIAのおかげで、NVIDIA アクセラレーテッド・コンピューティングを搭載したDell PowerEdge XEシリーズサーバー、NVIDIA NeMo、NVIDIA Quantum InfiniBandを特徴とするこの技術により、我々は最新の状態を維持し、この技術の段階的な利点を顧客に提供し続けることができている。
ランプラカシュ・ラママーシー氏は、ゾーホー・コーポレーションのAI部門を率いている。同氏は、ゾーホーのAIプラットフォームをゼロから構築する上で重要な役割を果たした。ゾーホーにおいて企業向けAI構築に携わった12年以上の豊富な経験を持つ。このAIプラットフォームは現在、1日あたり10億件以上のリクエストを処理しており、力強く成長を続けている。ラママーシー氏は、新興技術に対して冷静なアプローチを持つ情熱的なリーダーであり、技術カンファレンスで引く手あまたのスピーカーである。
