過去10年間のほとんどにおいて、エンタープライズインフラの方向性はかなり明確に見えていた。ワークロードは着実に少数のハイパースケールクラウドプロバイダー（特にAWS、Microsoft Azure、Google Cloud）へと移行していった。これらのプラットフォームは、ほとんどの企業が単純に太刀打ちできない規模と効率でインフラを運用できたからだ。グローバルなデータセンター網、拡大するサービスエコシステム、改善される経済性が、この移行を後押しした。時間の経過とともに、クラウドは単なる別の展開オプションではなくなった。多くのワークロードにとって、それはデフォルトとなったのだ。
人工知能（AI）がこのダイナミクスを変え始めている。AIワークロードは、従来のエンタープライズアプリケーションとは異なる要求をインフラに課す。トレーニングと推論環境は、AIアクセラレーターシリコン、高密度の電力供給、大量の情報を迅速かつ一貫して移動できるデータパイプラインに大きく依存している。これらのワークロードが拡大するにつれ、インフラの意思決定はますます物理的な現実──電力の利用可能性、半導体供給、データの所在地──を反映するようになっている。
この環境の中で、新しいカテゴリーのプロバイダーが出現し始めた。しばしばネオクラウドと呼ばれるこれらの企業は、主にAIワークロード向けに設計された高速化インフラの提供に注力している。2022年後半のChatGPTのリリースは需要を押し上げ、生成AIを主流に押し上げ、すでに制約のあったアクセラレーターサプライチェーンにさらなる圧力をかけた。
一見すると、ネオクラウド市場は混雑しているように見える。何らかの形でAIに特化したクラウドインフラを提供するプロバイダーが200社以上存在すると聞くことは珍しくない。しかし実際には、持続的な役割を果たす立場にあるのははるかに小さなグループのみだ──CoreWeave、Crusoe、TensorWave、Lambda、Genesis Cloudなどの企業である。
エンタープライズIT部門のリーダーにとって、より関連性の高い質問は、ネオクラウドプロバイダーがいくつ存在するかではなく、ハイパースケールクラウドプラットフォームやオンプレミスインフラと並んでどこに位置するかである。
ネオクラウドカテゴリーの定義
より深く掘り下げる前に、ネオクラウドが実際に何を意味するのかを確立する価値がある。この用語は業界全体でかなり広く使用されており、GPUインスタンスやAIインフラを提供するほぼすべてのプロバイダーに適用されることもある。このような緩い使用法は、いくつかの重要な区別を曖昧にする可能性がある。
実用的なレベルでは、ネオクラウドを、汎用クラウドサービスではなく、AIワークロードに最適化された大規模な高速化コンピューティング環境の提供を主要事業とするクラウドインフラプロバイダーと考えている。
いくつかの特徴が、これらのプロバイダーを従来のハイパースケールクラウドから区別する傾向がある。最も明白なのは、そのインフラが汎用コンピューティングではなくAIアクセラレーターを中心に構築されていることだ。モデルトレーニングと高スループット推論をサポートするように設計された大規模GPUクラスターが、通常、プラットフォームの中心に位置している。サービスポートフォリオも、ハイパースケールプロバイダーのものより狭い傾向がある。AWS、Azure、Google Cloudは、データベース、分析プラットフォーム、アプリケーション開発フレームワーク、ID管理、幅広いプラットフォームサービスにまたがる広範なエコシステムを提供している。対照的に、ネオクラウドプロバイダーは一般的に、AIワークロードを大規模に実行するために必要な運用ツールとともに、高速化コンピューティング容量の提供に焦点を当てている──それだけだ。
その運用モデルは、インフラへの迅速なアクセスを強調することも多い。多くのネオクラウド企業は、GPUコンピューティングの需要がハイパースケーラーが現実的に容量を追加できるよりも速く成長していた期間に出現した。その環境において、彼らは新しいハイパースケールリージョンや容量拡張を待つよりも、大規模アクセラレーターインフラへのより速い道として自らを位置づけた。
カテゴリーの境界が完全にクリーンでない理由は何か。一部のプロバイダーは、開発者向けインフラプラットフォームとAI第一のクラウド環境の中間に位置している。Vultrは良い例だ。同社はGPUインスタンスを提供し、多くのネオクラウドプロバイダーと直接競合できるが、重要なグローバルフットプリントを持つより広範な開発者中心のクラウドプラットフォームも運営している。その意味で、Vultrは従来のインフラクラウドプロバイダーと新興のネオクラウドカテゴリーの間のどこかに位置している──一種のハイブリッドモデルだ。
このような区別が重要なのは、インフラオプションを評価する組織が、非常に異なる経済的および建築的前提で運営されているプロバイダーを比較していることが多いためだ。
ネオクラウドが出現した理由
ネオクラウドプロバイダーの台頭は、今日AIインフラがどのように展開されているか──そしてそれが従来のクラウド提供とどのように異なるか──において、より構造的な何かを反映している。10年以上前のクラウド採用の初期段階では、支配的な目標は抽象化だった。インフラはますますソフトウェア定義になり、基盤となるハードウェアはアプリケーション開発者からほぼ隠されていた。クラウドサービスは、グローバルに分散されたデータセンターを通じて提供され、標準化されたAPIを介してアクセスされた。このモデルでは、コンピューティングリソースはほぼ交換可能であり、物理的な場所はあまり重要ではなかった。
AIワークロードはこの方程式を大きく変える。大規模モデルのトレーニングには、高性能ネットワーキングを通じて接続され、重要な電力密度によってサポートされるアクセラレーターのクラスターが必要だ。推論ワークロード──これはますますエンタープライズにおけるAIの運用化を表している──は、継続的で高スループットのコンピューティング操作を維持できるインフラに依存している。
このため、インフラ設計は再び物理的制約と密接に結びついている。大規模AIクラスターには、しばしば数十メガワット、場合によっては数百メガワットで測定される重要な電力容量が必要だ。つまり、データセンターの拡張は、地域の電力インフラ、土地の利用可能性、規制当局の承認に大きく依存している。同時に、エヌビディアやAMDなどの企業からのアクセラレーターへのアクセスは、AIインフラがどれだけ速く拡張できるかを決定する重要な要因となっている。
データの重力が別の次元を追加する。多くのAIシステムは、レイテンシー、ガバナンス、または規制上の制約により、異なる地域やインフラ環境間を簡単に移動できない独自のデータセットに依存している。これらの力を合わせると、AIインフラは少数のハイパースケールクラウドプラットフォーム内に完全に集中するのではなく、複数の環境に分散されるよう推進されている。
主権と地域インフラ
規制および管轄上の考慮事項は、AIインフラの意思決定に別の複雑さの層を追加する──CSP、ネオクラウド、そして顧客にとって。多くの政府や規制産業は現在、データレジデンシー、運用管理、管理監督に関するより強力な保証を要求している。
ハイパースケーラーは、これに対応してアーキテクチャを適応させ始めている。例えば、オラクルはOracle Cloud Infrastructure内でいくつかの異なるアプローチを提供しており、OCI Sovereign Cloud、OCI Cloud@Customer、OCI Alloyなどがある。OCI Alloyは特に注目に値する。なぜなら、パートナー──通信事業者や地域インフラプロバイダーを含む──がOCIのインフラスタックを使用して独自のクラウドサービスを運営できるようにするからだ。これは事実上、OCI上にクラウドを構築することを意味する。
AWS（European Sovereign Cloud）、Azure（Microsoft Sovereign Cloud）、Google Cloud（Google Cloud Sovereign Cloud）もすべて、データ主権要件に対応する提供を行っていることに注意することが重要だ。
同時に、多くのネオクラウドプロバイダーは地域に焦点を当てたインフラ戦略を採用している。電力、土地、規制当局の承認へのアクセスは地域によって大きく異なり、一部のプロバイダーは、これらの要因が大規模AIクラスターを実現可能にする場所にインフラを構築している。
企業はネオクラウドプロバイダーをどのように評価すべきか
エンタープライズIT部門のリーダーにとって、ネオクラウドプロバイダーの出現は、かなり実用的な質問を提起する：実際にいつ使用することが理にかなっているのか。
答えは通常、どちらか一方ではない。大規模にAIを展開するほとんどの組織は、複数のインフラ環境にわたって運用することになる。ハイパースケールクラウド、オンプレミスインフラ、そしてますますネオクラウドプラットフォームは、ワークロードとそれを取り巻く運用上の制約に応じて、それぞれ役割を果たすことができる。
一般的なシナリオの1つは、組織がアクセラレーター容量への迅速なアクセスを必要とする場合だ。大規模モデルのトレーニングや推論サービスの拡張には、しばしば特殊なハードウェアのクラスターが必要であり、これらのリソースは、特にGPUの需要が供給を上回っている期間には、ハイパースケールリージョン内ですぐに利用できるとは限らない。前述のように、ネオクラウドプロバイダーは部分的にこのギャップに対処するために出現し、大規模アクセラレーターインフラへのより速い道を提供することがある。
ネオクラウドは、組織がAIワークロード専用に構築されたインフラを望む場合にも意味をなす。ハイパースケーラーは、何千もの異なるサービスとワークロードをサポートするように設計された高度に一般化されたプラットフォームを運営している。ネオクラウドプロバイダーは、より焦点を絞ったアプローチを取る傾向があり、AIアクセラレーター、高性能ネットワーキング、AIワークロードを効率的に実行するために必要な運用ツールを中心にクラスターを設計している。特定の環境──特にモデルトレーニングと大量推論──では、この専門化が展開を簡素化できる。
インフラの経済性も意思決定に影響を与える可能性がある。CSPプラットフォームは、広範なサービスエコシステムを通じて莫大な価値を提供するが、これらの層は一部のAIコンピューティング環境には不要な複雑さをもたらす可能性がある。主な要件が大規模な高速化コンピューティングである場合、一部の組織は、アクセラレーター容量を中心としたよりシンプルなインフラモデルがより適していると考えている。
あるネオクラウドを別のネオクラウドと区別するものは何か
ネオクラウドを使用することを決定することは、課題の一部に過ぎない。次の質問は、組織のニーズに最適なネオクラウドはどれかということだ。そして、カテゴリーはしばしば単一の市場として議論されるが、セグメント内のプロバイダーはいくつかの次元に沿って差別化し始めている。
1つの軸はアクセラレーター戦略に関わる。一部のプロバイダーは特定のハードウェアエコシステムと密接に連携している。例えば、CoreWeaveは歴史的にエヌビディアのGPUを中心にインフラを構築し、機械学習エコシステムの大部分を支配するCUDAベースのソフトウェア環境に最適化している。他のプロバイダーは異なる戦略を追求している。TensorWaveはAMDのアクセラレーターを中心にプラットフォームを構築し、アクセラレーターサプライチェーンの多様化に関心のある組織にアピールしている。
地理的戦略は別の差別化要因を表している。ハイパースケーラーは、多国籍ワークロードをサポートするように設計されたグローバルに分散されたクラウドリージョンを運営している。前述のように、多くのネオクラウドプロバイダーは、電力の利用可能性とエネルギー経済が大規模AIクラスターをサポートする地域にインフラを構築する、よりターゲットを絞ったアプローチを取っている。Genesis CloudやCrusoeなどのプロバイダーは、エネルギー戦略と場所がインフラ設計にどのように影響するかを示している。
顧客フォーカスも差別化のポイントとして浮上している。一部のネオクラウドプロバイダーは主にAIスタートアップ、研究組織、大規模トレーニングクラスターを必要とするモデル開発者にサービスを提供している。他のプロバイダーはますますエンタープライズワークロードをターゲットにし、本番AIシステムを展開する組織のインフラパートナーとして自らを位置づけている。
時間の経過とともに、垂直的専門化も出現する可能性がある。金融サービス、ヘルスケア、政府などの業界は、インフラがどこに存在できるか、データをどのように処理しなければならないかに影響を与える規制フレームワークの下で運営されている。これらの規制環境に運用モデルを合わせるネオクラウドは、特定のセクター内で強力な地位を築く可能性がある。
クラウドの次の段階：連合型インフラへ
より広い文脈で見ると、ネオクラウドプロバイダーの出現は、インフラがどのように展開されるかにおける構造的シフトの初期段階を表している可能性がある。このシフトを考える1つの方法は、異なるタイプの環境がAIワークロードをサポートする上で異なる役割を果たす、連合型AIインフラモデルの出現としてである。
クラウド時代は、少数のグローバルプラットフォーム内にコンピューティングをほぼ集中化した。今日、AI時代は、インフラを自然に再び分散させる制約を導入している。
前述のように、電力の利用可能性、アクセラレーター供給、データの重力、規制要件はすべて、AIワークロードが効果的に動作できる場所に影響を与える。これらの要因を合わせると、単一の支配的なプラットフォームではなく、複数のインフラの重力中心が生まれる。
その結果、より連合型のコンピューティングエコシステムになる可能性がある──CSPがグローバルプラットフォームとソフトウェアエコシステムを提供し、ネオクラウドプロバイダーが特殊な高速化インフラを提供し、主権環境が管轄上の現実に対処する一方で、エンタープライズデータセンターは運用上の考慮事項やデータの重力が支配するワークロードをサポートし続けるエコシステムだ。
ネオクラウドの次は何か
これらのダイナミクスを総合すると、クラウド市場は新しい段階に入っている可能性がある。過去10年間のほとんどにおいて、エンタープライズインフラ戦略は、かなりシンプルな選択を中心に展開していた：ワークロードをオンプレミスで実行するか、主要なハイパースケールクラウドプラットフォームの1つに移行するか。人工知能は、より複雑な変数のセットを導入し始めている。電力の利用可能性、アクセラレーター供給、データの重力、規制要件、さらにはエネルギー経済が、AIワークロードが大規模に現実的に動作できる場所に影響を与えている。多くの点で、AIは、クラウドコンピューティングの初期段階がほぼ抽象化した物理的制約のセットを再導入している。
これは、ハイパースケーラーの重要性が低下することを意味しない。むしろ、AWS、Azure、Google Cloud、OCIなどのプラットフォームは、現代のエンタープライズアーキテクチャの基盤であり続けている。そのグローバルインフラ、ソフトウェアエコシステム、プラットフォームサービスは、企業のアプリケーションとデータスタックの大部分を支え続けている。
変化しているのは、AIを展開する際に企業が利用できるインフラ環境の範囲だ。ネオクラウドはそのシフトを体現している。高密度アクセラレーターインフラと高性能ネットワーキングに焦点を当てることで、従来のハイパースケール環境を超えてAIワークロードを実装しようとする組織に別のオプションを導入している。同時に、主権クラウド提供やパートナー運営プラットフォームなどの取り組みは、ハイパースケーラー自身がより分散されたインフラ環境にどのように適応しているかを示している。
エンタープライズIT部門のリーダーにとって、その意味はかなり明確だ。AIインフラ戦略は、単一のクラウドプラットフォームを選択することから、異なるワークロードに適した環境の適切な組み合わせを組み立てることへと変化している。課題は、運用の一貫性とガバナンスを維持しながら、複数のインフラ環境にわたって動作できるシステムを設計することだ。実際には、それはおそらく、より広範なアーキテクチャの一部として連携するCSP、ネオクラウド、主権環境、オンプレミスシステムの組み合わせを意味する。
クラウド市場は断片化していない。進化しているのだ。そして、AIがインフラ要件を再形成し続ける中、最も成功するエンタープライズアーキテクチャは、ますます多様化するエコシステムにわたって動作するように最初から設計されたものかもしれない。
