企業がAIを業務に導入する際、最も高性能なモデルを選ぶことが、最も安い運用につながるとは限らない。ChatGPTに質問して回答を得る使い方とは異なり、顧客対応やソフトウェア開発を自動化するAIは、情報の検索、判断、検証のために何度もモデルを呼び出す。
企業が業務システムからAIを利用するための接続手段「API」では、処理する情報量に応じて料金がかかる。わずかな単価差も、大量の業務では無視できなくなる。OpenAIは、文章を生成する速度を最大8倍にする代わりに料金が6倍になる「Ultrafast」と、分類や採点などの単純な判断を低価格で処理する「Decisions API」を導入した。
中国の低価格モデルや、自社設備でも運用できるオープンウェイトモデルとの競争も激しくなっている。企業がAIを選ぶ際には、性能や利用単価だけでなく、判断ミスによるやり直しも含め、仕事を正確に終えるまでの時間と総費用が重要になっている。
AIを大規模に自動運用する企業では、わずかな速度差と料金差が積み重なる
AI開発で重視されるのは、性能試験であるベンチマークの得点だけではなくなっている。AIを使って必要な仕事を終えるまでの時間と総費用が、競争力を左右するためだ。企業によるAI利用は、人がチャットで質問する方式から、数百～数千回もAIモデルを呼び出す長時間の自動処理へ広がっている。
1回の処理で数セント（数円）や数ミリ秒を節約しても、差は小さく見える。だが、数百万件の取引を処理する企業では、費用と時間の差が積み重なる。複雑な推論を必要としない工程に安価な専用モデルを使えば、大規模な自動化の採算はさらに改善する。
高速で安価なAIを求める動きを強めているのが、中国製モデルとオープンウェイトモデルの台頭だ。中国勢ではDeepSeek、Moonshotが開発するKimi、アリババのQwenなどが価格と性能で競争している。オープンウェイトとは、AIモデルの重みと呼ばれる内部の数値を公開する方式で、高額な独自API以外の選択肢になる。
意思決定に特化したAIを開発する新興企業TypeSafe AIも、用途を絞った専用システムを構築している。開発者がAIに任せる仕事のすべてに、高額な汎用の生成AIモデルが必要なのか。AI市場が成熟するにつれ、大規模な自動化を採算の合う価格で実現できる提供企業を巡って競争が進んでいる。
