業務におけるAIモデルのコスト算出方法
7月17日、OpenAIは組織におけるAIの実際のコストを測定するためのスコアカードと呼ぶものを発表した。同社はこれを「Useful Intelligence Per Dollar（1ドル）あたりの有用なインテリジェンス）」と名づけた。
このフレームワークは、以下の4つの問いに答えるものだ。
・どれだけ有用な仕事が完了したか
・タスクの成功に実際にかかったコストはいくらか
・AIはどの程度の頻度で仕事を正しく処理しているか
・利用が拡大するにつれて、AIに投じる1ドルあたりでより多くの仕事をこなせるか。言い換えれば、同じ品質レベルを維持しながら拡張できるか
これらの問いを考慮し、総コンピュートコストを完了した成功タスクの数で割ることで、自社のAIモデルが実際にどれほど効率的かを把握できる。やり直しや再実行の回数が減り、タスクあたりのコストが低くなるほど、職場でのAI導入の実際のコストは低くなる。
それだけでなく、これらの問いは、経営者や意思決定者として、あるいは一人のビジネスパーソンとしての盲点を明らかにすることもある。
例えば、1ドルあたりの有用なインテリジェンスを算出した結果、タスクにかかるコストが本来あるべき水準よりも高くなっていることが判明したとする。一方で、これは不適切なAIモデルを使用し、出力の正確性や品質よりも価格を追い求めたことが原因である可能性がある。
しかし他方では、従業員のスキルアップやAIトレーニングが必要な領域を浮き彫りにすることもある。
昨今、生成AIツールにプロンプトを入力すること自体は誰にでもできる。しかし、それをビジネス資源として効率的に活用し、節約する方法を理解している人は極めて少ない。具体的な能力は以下の通りだ。
タスクやワークフローに応じて、どのモデルや処理速度を使用すべきかを理解し、切り替えるタイミングを心得ていること
職場や組織の適切な文脈と詳細を含めて効果的にプロンプトを作成し、やり直しを最小限に抑えながら、最善かつ最も明確な出力を得る方法を熟知していること
タスクにAIエージェントが必要なケースと、チャットボットへの素早いプロンプトだけで完了できるケースを識別できること
したがって、最安値のモデルにすぐに切り替えたり、新たなベンダーを選定したりする前に、「AI検証税（AI verification tax）」と、それが従業員に強いる負担を算出することを忘れてはならない。
自分自身に問いかけてみてほしい。DeepSeekの「V4 Flash」のような安価なモデルの使用を正当化できる、低リスクなタスクはどれか。ベンチマークに対してより高い品質基準が求められる、中・高リスクのAIワークフローはどれか。必要とされる人間のレビューや管理職の監督の範囲はどの程度か。
そして、自分自身がプロフェッショナルとして、あるいは組織として、AI導入に伴う全コストを支払う覚悟があるだろうか。
