トークンを成果に結びつけるという考えは当然に聞こえる。だが、ほとんど実行されていない。Deloitte(デロイト)の調査では、AI支出から明確かつ測定可能な価値を得ていると回答した世界の財務リーダーはわずか28%だった。そして、この時代の「つるはしとシャベル」を売る企業、つまり半導体メーカー、ハイパースケーラー、フロンティアラボを除けば、アプリケーション層のテクノロジー企業の大半は、AIが売上高や利益に反映されるのをまだ見ていない。このギャップは兆候である。アプリケーション層の企業はAI機能を導入しているものの、それを事業成果へ結びつけられていない。
この組み合わせを実効性あるものにする方法は3つある。
(1)財務とエンジニアリングを一体化させる。各組織から1人ずつリーダーを組ませ、トークン支出とそれがもたらすインパクトの双方に責任を持たせる。
(2)毎月の戦略チェックインを行い、トークンコストを、AIが動かすはずだった成果指標と並べて確認する。コストが上昇しているのに成果が横ばいなら、何かが間違っている。できるだけ早くそれを把握すべきだ。
(3)企業が、成果の出ているプロジェクトを抱えるチームに人員を振り向けることが多いのと同じように、勝っているチームにはより多くのAI予算を迅速に移すべきだ。苦戦しているチームについては、そもそも正しい問題に取り組んでいるのかを厳しく見直す必要がある。
コスト削減をシステムに組み込む
短い計画サイクルと機動的な予算は重要だが、それは人に負担をかける。価格と性能が大きく異なる新モデルが次々と登場し、驚くほど高性能なオープンウェイトの選択肢もあるなかで、すべての従業員にあらゆるタスクに最適なモデルを選ばせるのは現実的ではない。企業は効率性をシステムの中に組み込むべきだ。
それを担うのがルーティング層である。これらのツールはディスパッチャーのように機能し、定義したルールに基づいて各リクエストを適切なモデルへ送る。複雑で複数段階のタスクを計画する場合は、通常フロンティア級の知能に値する。会議の要約はそうではない。日常業務の大半は、より安価なモデルやオープンソースモデルでまったく問題なく処理できる。ルーターはその判断を自動で行うため、誰も意識する必要がない。
コーディングには特に注意が必要だ。多くの企業で、トークン支出の圧倒的大半を生み出しているからだ。例えば、Cursor(カーソル)が発表したリクエスト内容から最適なAIモデルを自動選択するツール「Auto Router(オートルーター)」は、フロンティア級の品質の結果をおおむね60%低いコストで提供する。また、最近のコーディングエージェントは、作業内容が許せば、より安価なオープンソースモデル上で動作する、最適化されたコンテキストウィンドウを持つサブエージェントを生成できる。


