AIリーダーたちは認めたがらないが、現実世界のアプリケーションに関して、組織は「管理された条件下では良好な結果」を得られても、「どのユースケースが最も高い投資収益率をもたらすかを一貫して予測できない」場合がある。
言い換えれば、AIは概念実証（PoC）のような用途には優れているかもしれない。しかし、特にエラーによるコストが致命的になりかねない、厳しく規制された業界において、監督なしで重要度の高い機能を実行できるほど、AIの信頼性は高くないと筆者は考えている。
AIを組み込むことで得られる効率向上という約束と、重要な業務機能でAIを全面的に信頼するために必要な精度との間にあるこの隔たりこそ、今日の企業変革の取り組みが停滞している領域だと筆者は見ている。
2つの手段を超えて
この隔たりがあるからこそ、デロイトの調査に回答したシニアIT幹部の75%が、AIからより大きな価値を引き出すには、今後12〜18カ月で自社のオペレーティングモデルとプロセスを変える必要があると答えている。AIが複雑な企業ワークフローに組み込まれると、データ管理、ガバナンス、トレーサビリティに対する要求は飛躍的に大きくなる。そして、その水準の精緻さとカスタマイズを実現することは、テクノロジーだけでは不可能である。
この課題に直面すると、多くの組織は本能的に2つの手段のいずれかに頼ろうとする。1つ目は、計算資源を増やすこと。2つ目は、より大規模な基盤モデルを導入することだ。どちらも、この数年にわたり業界がテクノロジー起点の課題を解決してきた方法の自然な延長線上にある。しかし、どちらも必ずしも最善の選択肢ではない。
なぜスケールだけでは隔たりを埋められないのか
大企業の内部で、処理能力がボトルネックだったことはない。ボトルネックは具体性である。保険、銀行、医療のような規制が厳しくプロセスの多い業界では、モデルは単なる数式以上のものを取り込む必要がある。特定の保険会社の保険金請求審査ロジック、銀行の例外処理プロセス、医療保険者のコーディングや医薬品集ルールを理解する必要があるのだ。しかも、これらはいずれも、モデルが学習できる場所に文書化されていたわけではない。その知識は、数十年に及ぶ組織内の実務慣行の中に存在し、領域専門家や、互いに連携するよう設計されていないシステムの間に分散している。
パラメーターをどれだけ追加しても、基盤モデルが組織固有の例外を学ぶことはない。筆者はこの光景を繰り返し目にしてきた。企業は信頼性の飛躍的向上を期待して、より新しく大きなモデルへアップグレードする。だが、精度指標はほとんど動かない。問題はモデルの能力ではなかったのだ。
フロンティアモデルの開発企業自身がAIサービス部門を拡充し、エンジニアを顧客組織に直接送り込むようになっているのも、このためである。これは、モデル単体ではこのギャップを埋められないことを暗黙のうちに認めていることにほかならない。
モデルのそばに人材を組み込むという直感は正しい。しかしそれは同時に、この市場において本当の作業と本当の価値がどこにあるのかも示している。すなわち、モデルでも計算資源のレイヤーでもなく、その2つを特定企業の業務実態に結びつける、華やかではない作業の中にある。
実際に精度を動かすもの
精度ギャップを埋めるには、通常は同じチームが担うことの少ない3つの要素を結びつける必要があると筆者は考えている。適切なデータ、深い業務領域の文脈、そして実証済みのAI能力を、信頼できる大規模実行力と組み合わせることだ。
これは調達判断というより、徒弟制度に近い。そして多くの企業は、それを実行できる体制になっていない。データは大規模なAI変革を支えるよう設計されていないサイロに閉じ込められており、多くの企業がその事実を厳しい形で思い知らされている。
筆者が見ている限り、先行している組織は最新モデルにアクセスできる組織ではない。自社のデータとプロセスを十分に理解し、既存のAIモデルを自社固有の業務文脈の中で正確かつ確実に機能するよう設定するという、より困難で目立ちにくい作業に取り組んでいる組織である。
これは能力のギャップであり、計算資源のギャップではない。トークン消費を増やしたり、コンテキストウィンドウを大きくしたりして解決できるものではない。
異なる種類の予算議論
AIロードマップを策定する企業リーダーにとって、その実務上の含意は受け入れがたいが、明快である。次のAI予算の議論は、どの基盤モデルをライセンスするかから始めるべきではない。どのモデルであっても信頼できるものにするだけの水準で、自社が自社のデータを理解しているのかを率直に監査することから始めるべきだ。
この問いにはベンダーのデモが付随してくるわけではない。だが、AIの取り組みが本物の変革になるのか、それとも2年目にひっそりと消えていくまた別のパイロットで終わるのかを決めるのは、この問いである。
AIの精度ギャップは、次のモデルリリースによって埋まるものではない。AIを、複雑で重要度の高い業務機能の具体的なニーズ（単なるソフトウェアのプラグインやベンダーのデモだけで刷新することはできないもの）に結びつけるという、より困難で積み重ねを要する作業によってこそ埋められるのである。
