AIエージェントの請求額はなぜ跳ね上がったのか
何が起きているのかを理解するには、AIの料金がどう決まるのかを知る必要がある。
大半のベンダーは、定額のサブスクリプションからトークン単位の従量課金へと料金体系を移してきた。トークンとは文字列を細かく区切った単位で、おおむね単語の一部にあたる。AIが読み込む質問も、書き出す回答も、その途中で踏むあらゆる手順も、すべてトークンを消費する。企業は電気料金と同じように、使った分だけ支払うことになる。
実証実験の段階では費用は安く、ベンダー側が肩代わりしていることも多かった。そもそも投資に見合う成果を出せていない企業もある。
ところがエージェントが、この計算を変えた。エージェントはチャットボットとは動き方が違うからだ。長い作業を回し、ほかのソフトウェアを呼び出し、自分の出した答えを自分で点検する。その一つひとつの手順に、もれなく課金メーターが回る。GitHub Copilotが6月1日に従量課金へ移行した際、Visual Studio Magazineのある書き手が新料金での初日を記録したところ、月額は180ドル（約2万8000円）に達する見込みとなった。それまで定額10ドル（約1580円）だったプランでの出来事であり、原因は、ツールを何度も呼び出す長い作業を1回走らせたことだった。
しかも大半の企業は、そのメーターを見ることすらできていない。
KPMGが米国で並行して実施した調査では、売上高10億ドル（約1580億円）規模の企業の経営層204人のうち、AIを本格運用したときにかかる費用をリアルタイムで完全に把握できていると答えたのは26％にとどまった。グローバル調査でも、トークン課金の仕組みを含めAIのコスト構造がよくわからないことをエージェント導入の障壁に挙げた経営層が、3分の1にのぼる。
これは、先を走ってきた技術に、財務がようやく追いついてきたということだ。
