ほんの一瞬、人工知能（AI）は誰もが等しく利用できるものになったかのように感じられた。あらゆる業界のチームが、OpenAI（オープンAI）やAnthropic（アンソロピック）などの企業が提供するツールを試し、公共部門の組織も同様に、パイロット運用を行い、ワークフローを検証し、AIをどこに組み込めるのかを模索していた。
そこから、単純な物語が生まれた。AIは競争条件を平準化する。誰もが利用でき、誰もが恩恵を受ける、というものだ。
しかし、実際にはそうなっていない。
一部のAI企業が従量課金制へ移行しつつある。小さな運用上の変更に見えるかもしれないが、その意味は大きい。このモデルでは、AIは企業が一度導入すればよいものではなくなる。有用性が高まるほど、コストも増していくものになるのだ。
小規模であれば、そのコストは容易に吸収できる。だが業務運用の規模になると、意図的に管理しなければならないものになる。政府機関や中堅企業にとって、これは制約をもたらす。予算は固定されており、予測可能性は任意ではないからだ。
その行き着く先は、すでに見え始めている。
Gartner（ガートナー）によれば、「エージェント型AIプロジェクトの40%超が、コストの上昇、不明確な事業価値、または不十分なリスク管理を理由に、2027年末までに中止される」という。これはテクノロジーの失敗ではない。AIの導入のされ方と、組織が実際に運営される方法との間にあるミスマッチを反映している。
多くの組織はAIを、既存のワークフローに試しながら重ねられるツールとして扱ってきた。しかしAIが調達、コンプライアンス、社内の意思決定に影響を及ぼし始めた瞬間から、それはソフトウェアのようには振る舞わなくなる。運用基盤の一部となり、他の重要システムと同等の期待を背負うことになるのだ。
これが「二層構造のAI経済」の始まりである。
これは、以前にも交わされたことのある議論だ。2000年代半ば、エンタープライズテクノロジーにおける決定的な論点は、クラウドかオンプレミスかだった。組織は、自社でインフラをホストするのか、それとも柔軟性と拡張性と引き換えに運用管理を第三者に委ねるのかを決めるよう求められていた。
その議論は、その後20年にわたり、企業がコスト、統制、リスクをどう考えるかを形づくった。今日のAIをめぐる議論も、構造は似ている。そして、はるかに大きな利害がかかっている。
この問題をさらに複雑にしているのは、内製することへの理解が十分でない点だ。内製には、人材、インフラ、監督体制への継続的な投資が必要になる。データ主権とコンプライアンスが加わると、複雑さとコストは急速に増し、小規模または中規模の組織が現実的に支えられる範囲を超えることも少なくない。
今日、リーダーが直面している判断は、どれだけの統制を手放す意思があるのか、そしてそのトレードオフが長期的にどれほどのコストをもたらすのかという点にある。
この変化を効果的に管理している組織は、AIに対して異なる発想で臨んでいる。
筆者が見てきた限り、こうした組織はAIを最初からインフラとして扱っている。つまり、単なる試験導入の段階ではなく、実際の業務条件下でAIがどう振る舞うのかを問うている。また早い段階からコストの予測可能性に注目し、予測不能に拡大するモデルはいずれ調達、財務、ガバナンスとの間に摩擦を生むことを認識している。
組織はまた、どこで統制が最も重要になるのかについて、より規律ある判断を下すようになっている。完全に外部のツールに依存したり、内製に過度にコミットしたりするのではなく、一部の組織は管理された環境へと向かっている。すなわち、定義された境界内で動作し、内部データと整合し、組織の要件に合った形でガバナンスできるシステムである。
実務上、2つの道筋が浮かび上がっている。
1つ目は、データ主権型AIである。組織自身のネットワークまたはオンプレミスインフラ内でホストされ、自組織のデータを対象に稼働し、自組織のポリシーで管理されるシステムだ。
2つ目は、インテリジェントなLLM（大規模言語モデル）ルーティングである。あらゆるユースケースを単一の大規模モデルに固定するのではなく、タスクの種類、コスト、性能に応じて、複数のフロンティアモデルに問い合わせを振り分けるアーキテクチャだ。業務規模で1つのフロンティアモデルに依存することは、ますます高価になっており、多くの場合、不要でもある。ルーティングは経済性を変える。
この違いを理解している組織は、AIか非AIかを選んでいるわけではない。自社のAI環境をどう構築するかを選んでいるのであり、その判断はコスト、統制、能力に長期的な影響を及ぼす。
それぞれの道筋には、リーダーがリアルタイムで見極めなければならないトレードオフがある。
データ主権型の導入は、フロンティアツールが容易には再現できないものを提供する。組織としての統制である。データは組織の境界内にとどまり、これはコンプライアンス、プライバシー、長期的なリスク管理にとって重要だ。コストは予測可能になる。挙動は監査可能になる。外部ベンダーへの依存は構造的に減る。
課題は、この道筋には初期のインフラ投資、それを管理する継続的な人材、そしてガバナンスを徹底する組織的規律が必要になることだ。多くの中堅企業や公共部門の組織にとって、それは小さなコミットメントではない。
インテリジェントなLLMルーティングは、別の利点をもたらす。タスクの種類とコストに基づいて複数のモデルに問い合わせを振り分けることで、組織は、あらゆるユースケースに単一の大規模モデルを使うための全費用を負担することなく、有能で専門性の高いツールにアクセスできる。導入はより速く、必要な社内インフラは少なく、モデル環境の変化に応じて調整できる。
課題は、それでもデータが組織の境界外へ流れ、ベンダー依存が残り、ルーティングが解決しようとしているまさにその問題であるコストの予測可能性が、アーキテクチャを積極的にガバナンスしなければ規模拡大に伴って損なわれ得ることだ。ルーティングがより高度になったからといって、コンプライアンス上のリスクが消えるわけではない。
これがビジネスリーダーにとって真のジレンマとなるのは、どちらの道筋もそれ単独では完全ではないからだ。オンプレミス導入は統制を提供するが、継続的な能力を求める。ルーティングは柔軟性を提供するが、多くの組織が脱却しようとしている依存とコストリスクを再び持ち込む。
そして、熟慮して選択できる時間は狭まりつつある。なぜなら、判断を先送りする組織は、次に何が起きるかを管理する戦略的枠組みを持たないまま、チームがすでに使っているツールを事実上選ぶというデフォルトの決定を下していることが多いからだ。
ここに、AIの次の段階が形づくられつつある。
今後うまく前進する組織は、最も速く実験した組織ではないと筆者は考えている。コスト、統制、構造について早い段階で判断し、その判断を自組織の実際の運営方法と整合させた組織だ。
二層構造のAI経済において、優位性はアクセスだけから生まれるとは限らない。トレードオフを早期に理解することから生まれる可能性がある。
