過去2年間、エンタープライズAIの成功は消費量で測られてきた。企業は、どれだけ多くの従業員がAIツールを使ったか、どれだけ多くのクエリが実行されたか、そしてどれだけ多くのトークン(AI利用の基本的な計量単位)が自社システムを流れたかを称賛してきた。「トークン」は、AIに前向きな企業であることを示す代理指標のような、企業の虚栄の指標になった。
私は、その時代は終わりつつあると考えている。創業者や事業運営者との対話の中で、企業がインテリジェンスを捉える見方に明確な変化が起きていることに気づいた。業界で口語的に「トークン最大化(token-maxxing)」と呼ばれる、予算が許す限りAIを消費する考え方から、すべてのAI支出に事業成果による正当化が求められる「価値最大化(value-maxxing)」への移行である。なぜこの変化が起きているのか、そしてそれがどのような規律を求めるのかを理解することは、今年、テクノロジーリーダーが直面する最重要課題かもしれない。
トークンのパラドックス
この変化を引き起こした謎はこうだ。AI計算の価格は2022年以降、低下している。少し前まで1ドル(約1万未満円)かかっていた処理が、今では数セントで済む場合がある。純粋な調達の論理でいえば、AI関連の請求額は縮小しているはずだ。しかし実際には、多くの組織で増加している。
この業界は新しいが、その説明は古いものかもしれない。19世紀、経済学者ウィリアム・スタンレー・ジェヴォンズは、石炭を動力とするエンジンの効率が高まると、新たな効率性がより多くの利用を促すため、石炭消費は減るのではなく増えると論じた。AIはいま、まさに自らのジェヴォンズ的瞬間を生きている。
トークンが安くなっても支出は減らない。むしろ新たな消費を解き放った。現代の推論モデルは長い内部の連鎖で「考える」ため、従来のモデルよりはるかに多くの計算資源を消費する。自律型エージェントは、1つのタスクを完了するために何十回もの呼び出しを行う。コンテキストウィンドウは大きく膨らみ、各リクエストがより多くのデータを伴うようになった。単価は下がったが、単位数は爆発的に増えたのである。
私の経験では、これは多くの経営陣が、自分たちが誤った数字を管理していたと気づく瞬間である。問うべきはトークン当たりのコストではなかった。完了したタスク当たりのコスト、そして最終的には事業成果当たりのコストだったのである。
予算の移行
もう1つの力が働いている。それは技術的なものではなく、組織的なものだ。実験の時代、AIは「イノベーション」予算の中にあり、学習と導入が成功指標だった。AIシステムが実際の業務を担うようになるにつれ、支出は運営予算へと移り、運営予算はCFO(最高財務責任者)の管理下に入る。
この予算の移行は、インテリジェンスの評価方法を変える。イノベーション予算が問うのは「われわれは遅れずについていけているか」だ。一方、運営予算が問うのは「これによって何を得たのか」である。金融分野での経験から言えば、どのような戦略も最終的には、引き受けたリスク1単位当たりのリターンで評価される。エンタープライズAIはいま初めて、それに相当する問い、すなわち計算資源1単位当たりのリターンを問われているのだと私は考える。
価値最大化の規律
では、価値最大化は実務上どのような姿を取るのか。私は、それが3つの原則に基づくと考えている。
第1は、ワークロードの階層化である。すべてのタスクに最先端モデルが必要なわけではない。顧客からの問い合わせの振り分け、文書分類、定型的なデータ抽出は、多くの場合、より小型で安価なモデルで実行できる。一方で、最も複雑な判断が求められる案件は、最も能力の高いモデルに振り分けるべきだ。これを適切に実行する組織は、モデル選択を、ポートフォリオマネジャーが資本配分を扱うのと同じように扱うだろう。高価な資産は、その限界的な優位性が自らのコストを正当化する場面でのみ投入される。規制下の業務では、このルーティングの規律が、優れた実証実験と、本格展開で赤字になる導入との分かれ目になり得る。
第2は、活動量ではなく成果を測ることである。価値最大化を実践する組織は、重要な指標を計測できるようにする。解決済みチケット当たり、処理済み請求当たり、あるいは有望リード当たりのコストを、置き換えたプロセスの完全配賦コストと正直に比較するのである。利用状況ダッシュボードは、AIが使われていることを示してくれる。しかし成果会計は、それが機能しているかどうかを教えてくれる。
第3は、ガバナンスである。私たちは以前にも同じことを見ている。10年前、クラウドコンピューティング支出は企業内で統制されないまま広がった。その後、専任の責任者と説明責任を伴うFinOpsという規律が生まれた。AIは、当時クラウドが到達したのと同じ転換点にあると私は考えている。「インテリジェンス支出」の明確な責任者を任命する組織は、この規律が名称を得るのを待つ組織より、はるかに先を行く可能性がある。
リーダーが今できること
出発点は3つある。第1に、欠けている指標を構築することだ。最も利用量の多いAIユースケースを取り上げ、エンドツーエンドで成果当たりの真のコストを算出する。第2に、ワークロードを階層化し、すべてを最も高価なモデルに回すのではなく、ベンダーにも社内チームにもルーティング戦略を求める。最後に、インテリジェンス支出に責任者を置き、収益性を最大化する権限を与える。価値最大化の目的は、AIからより多くを得ることである。
結論
トークン最大化の終わりは、AIへの野心からの後退ではない。それは成熟の姿である。エネルギーからクラウドに至るまで、ビジネス史におけるあらゆる変革的な投入要素は、最終的に「もっと使う」段階から「賢く配備する」段階へと進んできた。そしてインテリジェンスはいま、その卒業に近づいている。次の段階で勝つ企業は、インテリジェンスを、いつの間にかそれが実際になっていたものとして扱う企業だと私は考える。すなわち、コストがあり、収益性があり、責任者がいる、損益計算書上の現実の投入要素である。



