2024年初頭、グローバルなフィンテック大手クラーナ（Klarna）は、AIアシスタントがカスタマーサービス部門のスタッフ700人分の業務をこなしていると発表し、年間4000万ドル（約62億3000万円）のコスト削減につながる見込みだとした。しかし、それからわずか1年あまりが経ったころ、同社のセバスチャン・セミアトコフスキ最高経営責任者（CEO）は、コスト削減への過度な注力によって品質が犠牲になっていたことを認め、同社は再び人間のスタッフの採用を開始している。
クラーナのこの方針転換は、エンタープライズAIの「第1波」を象徴する出来事だったと筆者は考えている。多くの企業が人手を大規模言語モデル（LLM）に置き換えようと急ぎ、その大半は削減可能な人件費ばかりに目を向けていた。しかし、AIが試験導入の段階から日々の業務運用へと移行するにつれ、別のコストが注目を集めるようになっている。それが「推論コスト」と「トークン消費量」だ。
現在、エンタープライズAIに携わるすべての人が同じ疑問を抱いている。それは「どうすればトークンコストを抑制できるか」というものだ。だが、筆者はトークンコストを単なる営業費用（OpEx）と捉えており、AIの成功を左右するような経済的価値の指標ではないと考えている。
トークンコストとトークン消費量を理解する
企業では「トークン予算」について議論されることが多く、中央管理ダッシュボードを通じてAIがいつ、どこで使用されているかを追跡したり、AIに特化したFinOps（財務開発管理）プラットフォームを導入して推論コストを効率化し、ワークロードをより低コストなモデルへと振り分けたりしている。
ゴールドマン・サックスによると、AIエージェントの普及によって「2030年までにトークン消費量は24倍に急増する」可能性があるという。また、ベイン・アンド・カンパニーの調査では、2024年後半から2025年後半にかけて、企業のトークン消費量は4.5倍に増加した一方、トークンコストは半減したことが分かった。こうしたトレンドは、企業がAI FinOpsチームを立ち上げ、トークン予算を厳密に監視している理由を裏付けている。しかし、だからといってトークン消費量がAIの広範な経済的影響を測定する指標になるとは限らない。
ガートナーは、2030年までに1兆パラメータ規模のモデルを稼働させるコストは、生成AIプロバイダーにとって現在よりも90％以上安くなると予測している。しかし同時に同社は、トークン単価が下がったからといってエンタープライズAIの総コストが安くなるとは限らないとも指摘している。なぜなら、自律的なエージェントは、例えば従来のチャットボットと比較して、1つのタスクを完了するためにより多くのトークンを消費するからだ。
筆者の見解では、利用の拡大は、将来的に「インテリジェンス（知性）」が電力、インターネット帯域幅、あるいは過去の技術トレンドにおけるクラウドコンピューティングと同様に、企業のもう一つの基幹インプットとして扱われるようになることを意味している。
誤った指標への固執
過去の技術革新において、企業は生産資源の消費量を最小限に抑えることだけで評価されてきたわけではない。例えば、製造業においては、電力量を最も少なく抑えた企業が競争力を高めたわけではなく、消費電力あたりの生産量を最大化した企業が生産性を向上させた。これは前回の技術革新であるクラウドコンピューティングでも同様だった。当初はインフラコストに対する懸念が集中したが、結果としてクラウドは、AIを含む全く新しい種類のアプリケーションの誕生を可能にした。
将来的に、汎用人工知能（AGI）が稼働するにあたり、1時間あたりのコストがいくらになるかを予測するのは難しい。仮にその額が1時間あたり100ドル（約1万円）だとしよう。ソフトウェアのコストとしては高額に思えるかもしれないが、それが従業員数人分の業務をこなせるとなれば話は別だ。年中無休で稼働し、複数のタスクを並行処理できるのであれば、そのコストは十分に妥当なものに見え始め、経営陣はすでに十分に元が取れていると感じるだろう。たとえそのコストが1時間あたり1000ドル（約15万円）に跳ね上がったとしても、企業にその数倍の利益をもたらすのであれば、やはり割に合う選択肢となる。
結局のところ、企業が本当に問いかけるべきなのは、「1ドル（約1万未満円）あたり、どれだけの生産的タスクを実行できるか」という点なのだ。
チャットボットから自律型業務へ
わずか5年前であれば、大半の経営層にとって「AI」とはチャットボットを意味しており、この技術が将来どのように進化して自社ビジネスに大きな影響をもたらすのかを静観していたことだろう。しかし現代のAIエージェントは、事象の監視、情報の収集、他のソフトウェアやエージェントとの連携、さらには複雑なタスクのリアルタイム実行までこなす能力を備えている。要求を出した従業員がその日の業務を終えてログアウトした後でも、AIは稼働し続ける。
今から5年後、AIを全面的に統合した製造企業は、現在とは全く異なる方法で操業しているはずだ。AIエージェントが工場の設備を24時間体制で監視し、部品の故障を事前に予測する一方で、別のエージェントが事前に設定された閾値を在庫が下回った際に自動でサプライヤーと価格交渉を行う、といった光景が現実になると筆者は考えている。しかも、これらのエージェントは個々に孤立して動くわけではない。互いに情報を共有し、次のプロセスを起動し、1時間あたり数千回もの意思決定を下すことになる。その結果、これらが一帯となって消費するトークン量は、今日のチャットボットが消費する量の何倍にも達するだろう。
財務部門がこれを懸念するのは当然だが、筆者はこの問題を異なる視点から捉えることを提案したい。インフラ投資を増やす際、企業はそれが生産能力の向上につながっているかどうかを評価すべきだ。生産力を2倍にする機械を導入すれば、工場の電気代は高くなる。しかし、本質的な問いは「追加された生産量が、その追加コストに見合うかどうか」である。
AI経済圏の次なるフェーズ：リーダーが考慮すべきこと
トークン消費量や利用予算への過度な執着は、決して新しい現象ではない。これまでに起きた主要な技術統合の導入期にも、同様のことが繰り返されてきた。将来的には、推論コストの低さだけで成功を測定するのではなく、AIが下す意思決定の質、創出される生産性、そして人間が機械に自律的な行動をどれだけ信頼して委ねられるかによって、AIを評価する必要がある。
多数のAIエージェントが配備されるようになれば、企業はオーケストレーション、デジタルアイデンティティ、検証、ガバナンス、プロベナンス（データの来歴管理）、マシン間決済、コンプライアンス、さらには深刻な損失を招きかねないエラーに備えた自律システム向けの保険などをどのように扱うかについて、真剣に検討する必要性も高まっていく。
エンタープライズAIを巡る議論はトークンコストから始まるかもしれないが、そこで終わるわけではない。インテリジェンスがより安価で豊富になるにつれ、トークン消費量は数ある運用指標の一つにすぎなくなると筆者は確信している。AI経済圏の真の姿は、安価なインテリジェンスが可能にする生産性、自律性、そして全く新しいビジネスモデルによって定義されることになるはずだ。
