金融機関や保険会社にとって、AIにかかる「1トークンあたり」の単価は微々たるものに見える。しかし、自律的に動く「エージェント型AI」のワークフロー全体におけるコスト管理を怠れば、予期せぬ巨額の支出を招くことになる。
モニカ・ホヴセピアン（Monica Hovsepian）は、オープンテキスト（OpenText）のグローバル金融サービスリードを務めている。
問いは変化した。1年前、リーダーたちはAIがビジネスに何をもたらすかを尋ねていた。現在、彼らが尋ねるのはもっと実用的な問いだ。すなわち、何千人もの従業員と何百万人もの顧客が毎日AIに依存するようになったとき、銀行や保険会社にとってAIの実際のコストはいくらになるのか、ということだ。
筆者は金融機関や保険会社からこの話をよく耳にする。AIの1トークンあたりの価格は微々たるものに見える。しかし、本番環境のワークフロー全体のコストはそうではない。
トークンとは、AIモデルによって処理されるテキストの最小単位であり、プロバイダーは通常、入力と出力に対して別々に課金する。企業の業務プロセスには、ユーザーが入力する単語だけでなく、システムへの指示、履歴、文書、ポリシーの文言、ツールの実行結果、再試行など、はるかに多くの要素が含まれ、これらすべてが同じ予算を消費する。
シンプルなチャットボットなら、モデル呼び出しは1回で済むかもしれない。しかし、住宅ローンの申請や保険金の請求、不正検知のアラートなどを処理するAIエージェントは、何度も呼び出しを行う可能性がある。追加のステップにはそれぞれ目的がある。そして、追加のステップにはそれぞれ価格もある。
低い単価がもたらす、金融機関や保険会社の「偽りの安心感」
この業界は奇妙な矛盾に直面している。スタンフォード大学の「2025年 AIインデックス（AI Index 2025）」によると、GPT-3.5レベルのシステムにおける推論コストは、2022年11月から2024年10月の間に280分の1以下に下落した。
価格低下はAI予算を管理しやすくするはずだ。ところが実際には、より大きなコンテキストウィンドウ、より長い出力、より自律的なワークフローといった、利用の拡大を促しがちである。単価の下落は、総消費量を押し上げる性質を持つ。
金融サービス業界からの圧力も加わっている。イングランド銀行（英国中央銀行）と金融行為監督機構（FCA）による2024年の調査では、金融機関の75%がすでにAIを導入しており、さらに10%が3年以内の導入を計画していることが分かった。回答者は、AIの活用事例の数(中央値）が、9件から21件へと2倍以上に増加すると予想している。
コストの問題は財務部門にも及んでいる。クラウド支出が総額830億ドル（約13兆1000億円）を超える企業などを代表する1192人を対象としたFinOps Foundationの2026年の調査によると、回答者の98%が現在、AIの支出を管理しており、同報告書では「AIのコスト管理」をチームが身につけるべき最重要スキルに挙げている。
これは、AIが手の届かないものになったという意味ではない。トークンの消費量がビジネスの指標になったということを意味している。
「エージェント型AI」が金融業界のコスト方程式を変える理由
従来のソフトウェアは定義された手順に従う。これに対し、エージェント型AIは、次にどのステップを踏むべきかを自ら判断する。ファイルの取得、別のシステムの呼び出し、別のモデルへの回答チェックの依頼、修正、そして検証が失敗した後の再試行などだ。
エージェント型コーディングタスクを調査した2026年の未査読研究論文（プレプリント）によると、エージェントのワークフローは、コード推論やチャットと比較して約1000倍のトークンを消費し、同じタスクの実行であっても合計トークン数に最大30倍の開きがあった。この研究は金融ではなくソフトウェアを対象としたものだが、その警告は金融にも当てはまる。すなわち、自律性はコストの変動性をもたらすということだ。
保険金請求のエージェントは、診断書、やり取りの記録、過去の決定事項を必要とするかもしれない。銀行業務のエージェントは、顧客記録、取引履歴、リスクポリシーを必要とするかもしれない。別のモデルが提案内容を検証し、レビュー担当者が再処理を求めることもある。各ステップがコンテキストとトークンを増やす。
簡単な例を挙げよう。100万件の保険金請求があり、1件あたり5回のモデル呼び出しを行い、1回の呼び出しにつき2万の入力トークンと2000の出力トークンが発生するとする。入力100万トークンあたり1ドル（約1万未満円）、出力100万トークンあたり5ドル（約1万未満円）とすると、データの抽出、監視、保存、人間のレビューにかかるコストを除いたとしても、直接的なモデル利用料だけで約15万ドル（約2370万円）に達する。これは特定の保険会社の予測ではない。規模が大きくなれば、いかに小さな単価が積み重なるかを示している。
金融機関や保険会社で測定すべきは「ガバナンスが機能した成果あたりのコスト」
マッキンゼーの推計によると、特定されたユースケースが完全に実装された場合、生成AIは銀行業界において、年間2000億ドル（約31兆6000億円）から3400億ドル（約53兆8000億円）（閲覧には登録が必要）の潜在的な価値をもたらすという。
この価値を手にするには、より適切な分母が必要となる。「100万トークンあたりのコスト」は、エンジニアがモデルの価格を比較するのに役立つ。一方で、「ガバナンスが機能した成果あたりのコスト」は、経営陣がビジネスを運営するのに役立つ。
銀行にとって、それは「完了した顧客確認（KYC）審査」や「文書化された証拠によってクローズされた不正事例」かもしれない。保険会社にとっては、「正しくトリアージされた請求」や「適切な記録に裏付けられた補償の決定」かもしれない。
最も安価なモデルが、必ずしも最も安価なワークフローになるとは限らないのはそのためだ。エラーや度重なる呼び出しを発生させる低コストのモデルは、手戻りを生む。そして手戻りは、当初15万ドル（約2370万円）と見積もられていたクリーンな数字を、はるかに大きな額へと膨らませてしまう。最初の1回でタスクを正しく完了できる、より高価なモデルのほうが、結果としてコストを抑えられることもあるのだ。
金融機関や保険会社が取るべき5つのアクション
1. ワークフロー全体を測定する：入力、出力、推論、情報の検索、ツールの呼び出し、人間のレビューを追跡する。モデルの請求書に表示されているのは、コストの一部にすぎない。
2. 導入前にトークン予算を設定する：タスクあたりの想定消費量、許容される変動幅、エージェントのループ処理の強制停止基準を定義する。制御不能なトークン使用は、単なる予算外の「想定外の支出」ではなく、「運用上のインシデント」として扱うべきだ。
3. リスクと複雑さに応じて業務を振り分ける：分類や日常的な定型リクエストには、より小さく安価なモデルを使用する。より高度な推論が価値を生む複雑な意思決定のために、大型モデルを温存しておく。
4. 根拠を失うことなくコンテキストを削減する：顧客や請求の全履歴を読み込ませるのではなく、そのタスクに必要な記録だけを取得し、ソースリンクと権限を保持する。ここに、情報ガバナンスがAIエコノミクスの一部となる理由がある。適切に分類され、アクセス権限が考慮されたコンテンツがあれば、エージェントは必要な証拠だけを抽出できるため、トークン消費が抑えられ、追跡可能性（トレーサビリティ）が向上する。
5. コスト、リスク、価値を紐付ける：財務、テクノロジー、データ、リスク、そしてビジネスの各リーダーに対して、AIのコストガバナンスに関する共通の視野を提供する。そして、正確性、顧客への影響、コンプライアンス、時間の節約といった指標と並行して、成功した成果あたりのコストをレビューする。
トークンの規律は、ビジネスの規律である
金融機関や保険会社は、取引あたりのコスト、請求あたりのコスト、サービス提供コスト、インシデントあたりの損失など、ユニットエコノミクス（単位あたりの経済性）の管理方法をすでに熟知している。AIにも同様の規律が必要だ。
モデルの効率化に伴い、トークンの価格は下がり続ける一方で、それに呼応して需要は拡大するだろう。勝者となるのは、最安のトークンに固執する組織ではない。信頼できる結果を生み出したトークン、無駄になったトークン、そして人間の判断がモデルの追加呼び出しを上回った局面を把握している組織だ。それには、適切な情報、アクセス権限、モデル、コスト上限、権限レベルという確固たる境界線を設定して構築されたエージェントが必要となる。
もはや「トークンがいくらか」という問いではない。「そのトークンを使って、どのようなビジネス成果を購入したか」が重要なのだ。
