今週、話題を呼んでいるのは「AIエージェントはチャットボットの136.5倍もの電力を消費する」という統計だ。これは実在の研究に基づく本物の数字だが、その論文から引き出された内容の中では、最も有益とは言い難いものである。研究者が実際に何を測定したかを深く理解するほど、今後3年間のコンピューティング予算を組む立場の人にとって、状況はより深刻に映る。
この研究は、韓国のトップ工学校であるKAIST（韓国科学技術院）から発表されたものだ。Minsoo Rhu氏率いるチーム（第一著者はJiin Kim氏）がAIエージェントのエネルギーコストを測定し、通常の単発チャットボットのクエリと比較した結果を、コンピュータアーキテクチャの主要国際会議HPCAで2月に発表した。見出しとなった数字は本物である。Metaの700億パラメータのLlamaモデル上でReflexionエージェントフレームワークを実行した場合、単一タスクで348.41ワット時を消費した。これに対し、通常のチャットボットの回答は2.55ワット時だった。誰もが引用しているのが、この136.5倍という数字だ。
ただし、これは範囲の上限であって中央値ではない。別のエージェントフレームワークであるLATSは、同じモデルでベースラインの62倍だった。この倍率は、システムを停止させる前にどれだけ推論させるかに連動する。フレームワークやモデルサイズを変えれば、数字は2倍以上変動する。136.5倍をエージェント型AIのコストとして引用するのは、販売店で最も燃費の悪い車の燃料代を、運転にかかる費用として示すようなものだ。
二度読む価値のある部分
見出しの数字を取り除くと、その背後にあるメカニズムこそが真の物語である。チャットボットは質問を受け取り、回答を生成して停止する。一方、エージェントはループする。計画を立て、ツールを呼び出し、Web APIやコード実行の応答を待ち、結果を読み、再び計画する。モデルを経由する各パスがエネルギーを消費し、待機時間は人々の予想以上にコストがかかる。
KAISTのチームは、ツールを多用するタスクでは、高価なGPUが最大54.5%の時間アイドル状態にあり、チップ外部からの応答を待つ間も電力を消費し続けていることを発見した。これこそCFOが注視すべき知見である。コストの単位はクエリではなく完了したタスクとなり、コストの大部分は、ハードウェアを稼働状態で保持するだけの「何もしない時間」に対して支払われる。データセンターにおいてGPUが最も高額な費目である以上、稼働率が半分にとどまることは効率性の脚注ではなく、製品の経済性そのものである。
これが、通常であれば安心材料となる効率化の話が完全には当てはまらない理由だ。モデルのトークンあたり実行コストが下がることは、チャットボットの場合には直接的な恩恵をもたらす。しかし、エージェントをエージェントたらしめているアイドル待機と反復的なパスに対しては、はるかに効果が薄い。同じ論文では、あるエージェントフレームワークが、より小さな80億パラメータのモデル上で、ベースラインクエリの153倍も遅く動作することが計測されている。設計上生じるレイテンシは、最適化では回避できない。
予測ではない「あの数字」
さらに、最も広く拡散したものの、最も過大評価されている数値がある。この研究では、エージェントの利用が1日あたり137億リクエストに達した場合、データセンターには約199ギガワットが必要になると推計している。これは米国全体の平均電力需要のおよそ半分に相当する。この数字は、電力網の行く末に対する警告として広く出回っている。
だが、これは予測ではない。著者らは自身の小規模サンプルによるタスクあたりのエネルギー数値を、Googleの現在の1日あたり検索ボリュームに掛け合わせて算出した。この検索ボリュームが選ばれたのは、単にきりの良い大きな数字だからであり、近い将来1日137億件のエージェントタスクが発生すると誰かが予想しているわけではない。これはリスクの輪郭を示すために構築された「もしも」のシナリオであり、論文自体もそう述べている。これを需要予測として扱うのは、出典を誤読することだ。
真の予測はより慎重で、注意深く読むと軽視しがたい。ローレンス・バークレー国立研究所は2023年の米国のデータセンター使用量を176テラワット時、国内電力の約4.4%と算出し、2028年までに最大12%まで達する可能性を示した。国際エネルギー機関（IEA）は、世界のデータセンター消費が2030年までに倍増以上に増加し、約945テラワット時に達すると予想している。いずれもクエリ量の増加を前提にしている。しかし、業界が「回答」から「行動」へと移行するにつれ、平均的なクエリ自体が桁違いに重くなる可能性は、どちらも織り込んでいない。それこそがKAISTの研究が明らかにしたギャップであり、公式予測のいずれの内側にも組み込まれず、その下に潜んでいる。
この情報をどう活用するか
企業にとっての示唆は、狭く具体的である。2026年のAIロードマップがエージェント型であるならば（現在、大半の企業ロードマップはそうなっている）、チャットボット型推論を前提に算出したコンピューティング予算は、間違った数字を示していることになる。エージェント製品を1コールあたり定額で販売しているベンダーは、KAISTのアイドル数値が具体化した稼働率リスクを負っており、そのリスクは彼らの利益率、あるいは最終的に顧客側にしわ寄せされる。
電力調達も、一段外側の同じ問題である。次の容量拡張を計画する電力会社やハイパースケーラーは、クエリの成長に基づく需要曲線を用いている。自律性による倍増要因はその曲線には含まれていない。系統接続の確保に既に数年を要する市場では、タスクあたりの負荷を過小評価することは丸め誤差では済まず、座礁資本のリスクとなる。
著者らの結論は、ソフトウェアの高度化だけではこのギャップを埋められず、エージェントがもたらす「待機とループ」のパターンを軸にチップ、データセンター、モデルを再設計する必要があるというものだ。これは四半期単位で完了する仕事ではない。資本を配分する立場にある人にとっての短期的な対応は、より地味で、より有益である。ベンダーには、クエリのコストではなく、完了したエージェントタスクのコストを尋ね、そのコストのうちGPUアイドルが占める割合を問うべきだ。正直な回答は、136.5倍という数字ではない。それは自身のワークロード固有の数値であるがゆえに、より悪い数字となり、その代金は毎回支払うことになる。
