Nutanix(ニュータニックス)最高技術責任者(CTO)、マノシズ・バタチャリヤ氏。
企業の79%がすでに何らかの形でAIエージェントを導入し、さらに多く(88%)の企業がそれに続くためにAI予算を増加させているのは驚くことではない。これは、すぐに利用できるコンピューティングリソース、事前学習済みモデル、ローコードツールのおかげで、AIエージェントの構築がかつてないほど容易になっているためだ。
しかし、組織がこのゲームチェンジングな技術の導入を急ぐ中、重要な課題が浮上している。高騰するコストをどのように管理し、AIエージェントが実際に確かなROI(投資対効果)を提供していることをどう確保するのか?
以下では、AIエージェントの構築・運用コストが制御不能になる理由、ROIが期待外れになる理由、そして組織がこれらの問題を軽減し、エージェント型AI投資から最大の価値を得るための方法を検討する。
超高コストと期待外れのROIの原因は何か?
自社開発のAIエージェントの構築は、いくつかの理由でコストがかかる。ほとんどの企業はAIエージェントを構築するための社内専門知識を欠いており、高額なコンサルタントを雇うか、希少で高額なAI人材を獲得するための競争を強いられ、これが多額の初期コストを生み出す。
次に、エージェント自体を構築するために強力なモデルを使用する必要がある。これらのモデルの実行には膨大な計算能力が必要であり、推論、複数ステップのタスク、継続的な対話をサポートするエージェントのためにより多くのトークンを消費するにつれてコストが急増する。多くの場合、企業は最初から適切なモデルを選択できなかったり、エージェント間で共有できるような方法でモデルを展開することに苦労したりして、コストが抑えられなくなる。これが数十から数百のAIエージェントに掛け合わされると、コストは天文学的な数字になる。
さらに、組織がエージェント型AIに多額の投資をしたからといって、それが実際に成果を上げる保証はない。適切なヒューマン・イン・ザ・ループ(HITL)の入力がなかったり、「適切な」人材が参加していなかったりすると、ROIは低下する。これにより、意図した価値を提供することなくリソースを消費する生産性の低いエージェントが生まれる。
以下に、企業がこれらの課題に対処し、AIエージェントが組織内で推進力となり、負担にならないようにする方法を示す。
AI監視を一元化する
企業は、最適なコストとROIの成果を得るために、AI監視の一元化を強く検討すべきだ。大企業の75%が2026年までにC級レベルでAIリーダーを置くと予測されているのには理由がある。AI監視を一元化することで、組織はシャドーAIを防止し、コストを抑制し、エージェント型AIイニシアチブが真の価値を提供することを確保できる。
AIエージェントの構築に関しては、最高AI責任者や専門AI組織が、どのユースケースにどのモデルを使用するか、また最もコスト効率の高い展開方法を決定するのに役立つ。例えば、個々のチームが計算負荷の高いモデルを使用して独自のエージェントを立ち上げるのではなく、中央のAI機能がワークロードを共有インフラに統合することで、支出を大幅に削減できる。
この一元化により、部門間の重複を減らし再利用を最大化する調整された戦略が可能になり、ROIが強化される。重要なことに、企業がAIエージェント全体で一貫したポリシーとコントロールを実施できるようにすることで、コンプライアンスも維持される。
堅牢なHITL戦略を実装する
意図したとおりに機能し、意味のあるROIを提供するAIエージェントには、適切な人間の入力が不可欠だ。マーケティング用の社内AIエージェントを構築するAIチームを想像してみよう。彼らが孤立して作業し、最初からエージェントの動作をレビューし改良するためにマーケティングチームを巻き込むことを怠れば、それが対象ユーザーにとって役立つものにならない可能性が高い。エージェントの出力が不正確、無関係、あるいはリスクを伴うものであれば、ROIに悪影響を及ぼす。
堅牢なHITL戦略は上記のような内部機能には不可欠だが、外部向け機能を実行するAIエージェントにはさらに重要だ。高度なカスタマーサービスエージェントのような外部向けエージェントは、正確に応答し、顧客満足度と信頼を維持するために、さらに多くのHITL介入を必要とする。それがなければ、最も高度なエージェントでさえ期待に応えられず、ROIを損なう可能性がある。
組織は、エージェントの動作に関する初期および継続的なフィードバックを提供する適切なヒューマン・イン・ザ・ループを導入することで、これらの落とし穴を回避できる。特に、それらのエージェントが顧客によって直接使用される場合はなおさらだ。
教育とガイダンスを提供する
企業の従業員はAIエージェントの形成において重要な役割を果たし、それがROIに直接影響する。すべては教育から始まる。企業は従業員に対し、特に新しいエージェントが導入される際に、AIエージェントを継続的に効果的に使用する方法についてのガイダンスを提供しなければならない。
全社的に、すべての個人がプロンプトエンジニアリング、責任ある使用法、技術の限界についての教育を受けるべきだ。さらに、チームはHITL責任を効果的に遂行する方法についてのガイダンスを必要とする。例えば、エージェントが不十分な応答を提供した場合、従業員はそれが再び起こらないようにするための具体的な手順を知る必要がある。また、組織は役割ごとにトレーニングをカスタマイズし、各チームが特定のワークフローと責任にエージェントを適用して価値を最大化する方法を理解できるようにすることもできる。
AIエージェントは間違いなく企業の運営方法に革命をもたらすだろう。これは刺激的な考えだが、企業はこの技術の爆発的な普及が予算にどのような影響を与えるか、そしてROIの観点から価値があるかどうかを見失うことはできない。
AI監視を一元化し、初日からヒューマン・イン・ザ・ループを維持し、従業員を教育することで、組織はAIエージェントの可能性を最大限に実現する最良のチャンスを得る。これにより、AIエージェントは斬新な実験から、高いインパクトを持つ持続可能なビジネスツールへと変貌を遂げるだろう。
Forbes Technology Councilは、一流のCIO、CTO、テクノロジーエグゼクティブのための招待制コミュニティです。私は参加資格がありますか?



