多くのリーダーは、AIコストについて、消費者向けサブスクリプションの感覚で捉えている。つまり、1ユーザーあたり月20ドル（約1万未満円）という予測可能な費用である。しかし、AIインフラとガバナンスの分野で仕事をしてきた私の経験では、この数字はAIをめぐる議論の中で最も誤解を招きやすい数字の1つであり、多くのコミュニティバンクがまもなく驚かされることになると私が考える理由でもある。
消費者向けのチャットプランは通常、厳しい利用上限が設けられた客寄せ商品である。多くの銀行の財務部門責任者がツールを求めている領域、すなわち融資審査、文書分析、クレジットメモの作成、顧客対応は、そのようなプランでは動かない。商用APIアクセス上で動作し、トークン単位で課金され、設計上、上限がない。商用料金では、1人のヘビーユーザーのコストは月20ドル（約1万未満円）では済まない。数百ドルに達し得る。
実際に費用がかかる場所
最先端モデルは一般に100万トークン単位で価格設定され、出力、およびプレミアムモデルが回答前に生成する隠れた「推論」トークンは、入力の数倍という大幅な倍率で請求される。100万トークンあたり数ドルと聞けば、取るに足らないように思える。落とし穴は量であり、実際の銀行業務のワークフローにおける量は巨大になりがちである。
アナリストが200ページの融資ファイルをAIワークフローにかける場面を考えてみてほしい。それは1回の呼び出しではない。エージェント型プロセスは文書を取得し、各ターンで文脈を読み直し、財務制限条項を照合し、財務情報を突き合わせ、1つのタスクあたりしばしば数十回のモデル呼び出しを反復する。そのたびに蓄積された文脈が再送信される。文書量の多い1つのタスクだけで数百万トークンを消費し、モデルの選択やワークフローの作り込みの精度によって、数ドルから50ドル（約1万未満円）を大きく上回る金額までかかり得る。
これを拡大して考えてみよう。1日20タスク、月20日なら400タスクである。タスク単価が10ドル（約1万未満円）なら、アナリスト1人で月4000ドル（約63万円）となる。この機能を8人の融資チームに広げれば、年間で6桁の費目になる。しかもそれは、資本計画のどこにも載っておらず、従業員がAIをどれほど熱心に使うかだけによって生じる費用である。
圧力は社内から来ており、それは正当なものだ
コミュニティバンクの最高財務責任者（CFO）は、無謀な同僚たちを管理しているわけではない。最高執行責任者（COO）がAIを求めるのは、増加する業務量に対して人員数を据え置こうとしているだけである可能性が高い。最高融資責任者（CLO）は、競合がより速く案件をクローズしているのを目にしているのかもしれない。AIの能力が成果をもたらし得るという点で、彼らは正しい。ただし、彼らには、それが従量課金であり、自然な上限がないことが見えていない可能性がある。多くの場合、このことがAI導入を経費精算へと押しやる。そこでは単位あたりのコストが高くなるうえ、まったく統制されていない。だからこそ、CFOの仕事はAIの速度を落とすことではなく、AIを数えられるものにすることだと私は考える。
始める前に、これらの問いに答える
隠れたAIコストを適切に追跡し、計画するために、CFOと銀行の経営陣が今四半期に検討すべきだと私が考える問いはいくつかある。
• 業務1単位あたりにいくら支払っているのか。（席数あたりではなく、クレジットメモ1件、レビュー済みアラート1件、処理済み文書1件あたりである）
• ライセンス、ベンダー製品に組み込まれた機能、クラウドAIサービス、部門ごとに経費処理されているツールを含め、AI支出の総額を把握しているか。
• 消費量を部門、ユースケース、個人にひもづけられるか。AIがIT予算の中の1行にすぎないなら、それは管理されていない。
• 消費量が3倍になったら何が起こるか。ダッシュボードで知るのか、アラートで知るのか、それとも90日後の請求書で知るのか。
• 誰が止められるのか。厳格な上限はあるのか、それともメーターはただ回り続けるのか。
• 誰がモデルを選ぶのか。AIベンダーが組み込み機能をより高額なモデルにアップグレードした場合、承認なしに支出が増えるのか。
• 信用業務やコンプライアンス業務のワークフローにおけるAIが、どのように統治、監視、文書化されているのかを検査官に問われたとき、何を提示するのか。
監視システムを選ぶ
AIのトークン支出を追跡するソフトウェアを選ぶ際には、検討すべき中核的要素が3つある。
1. ガバナンス：ガバナンスとは、すべてのポリシー、モデルインベントリー、承認、許容される利用、出力監視、監査証跡が検査官に答えられるようにすることである。ガバナンスプラットフォームはリスクとコンプライアンスのために構築されている。しかし一般に、CFOの予算や費用に関する問いにはまったく答えない。
2. FinOps：FinOpsは、クラウドコスト管理の規律をトークン消費に適用することに焦点を当てる。これにはリアルタイムの可視性、予算のガードレール、積極的なコスト「削減」が含まれる。通常、効果が最も出るのはここである。プロンプトや文脈のキャッシュ、必要なタスクにはプレミアムモデルを残しつつ安価なモデルへ賢くルーティングすること、冗長な呼び出しの排除、プロンプトの定期的な削減によって、品質を落とすことなく支出を大幅に削減できる。
3. システム・オブ・レコード：これは多くの場合、最も希少なカテゴリーである。真のシステム・オブ・レコードは、すべてのやり取りを捕捉し、保持すべきである。何が問われ、何が回答され、どのモデルが使われ、どのユーザーが、どのポリシーの下で、どのコストで利用したのか、という情報である。それはAIを、監査不能な活動から、統治された業務プロセスへと変換できるものでなければならない。
ガバナンスだけではポリシーは得られるが経済性は得られない。FinOpsだけでは経済性は得られるが、防御可能性は得られない。システム・オブ・レコードだけでは、管理できなかった支出について、よく文書化されたアーカイブが得られるだけである。だからこそ私は、AIトークン支出を最も正確に管理するために、3つすべてを活用することを勧める。
自社内にこれら3つの機能を構築するために必要な社内システムやチームがない場合、サードパーティーのプロバイダーから利用できる選択肢は数多くある。多くのサービスはこれらのプラットフォームを個別に提供しているが、別々に契約するということは、3つの契約と3つのデータモデルを突き合わせることを意味する。一部のベンダーは、1つのプラットフォームですべてを提供している。そこでは、ユースケースを承認するポリシー、それを制約する予算、それを証明する記録が、同じデータを参照する。（完全開示：私の会社はこれらのサービスを提供しており、他社も提供している。）パートナーを決める前に、候補となる各ベンダーに対し、そのプラットフォームが3つのうちどれを自ら保有し、どれを単に連携しているだけなのかを尋ねるべきである。
数字から始める
今月、もう1つAI戦略を作る必要はない。必要なのは数字であり、その下にある単位コストである。
AI支出の総額を把握する。それをひもづける。責任者とアラートを伴う上限を設定する。新たなユースケースにはすべて、想定リターンと取引1件あたりの想定コストを求める。そのうえで、それを統治し、最適化し、文書化できるプラットフォームを評価する。
AIは、コミュニティバンクがこの1世代で手にした最も重要な効率化のてこになるかもしれない。それが同時に、損益計算書上で最も管理されていない費用になるかどうかは、今日下す意思決定に部分的にかかっている。
