LogicMonitorのAI部門ゼネラルマネージャー、カルティク・SJ氏。公開企業、PE（プライベートエクイティ）およびVC（ベンチャーキャピタル）支援企業において、複数のゼロから1までのAI製品を構築・拡大してきた。
エンタープライズAIはかつてないほど魅力的に見える。大規模言語モデル（LLM）は、昨日までのチャットボットを時代遅れにするような会話型の応答を生成する。検索システムは外科手術のような精度で関連データを引き出す。洗練されたインターフェースは、すぐに導入できる完成品のように見える。
しかし、デモと実際の本番環境の間にある隔たりは、これ以上ないほど明白だ。デモは洗練されたインターフェースとスムーズな対話を披露するかもしれないが、それらは企業の複雑さに対応できない簡略化されたアーキテクチャ上で動作している。セキュリティフレームワーク、コンプライアンス管理、監視システム、テストパイプラインといった欠けている部分は、チームが本番環境への導入を試みて初めて、基礎のない家を建てていたことに気づくまで見えないままだ。
数字がこれを裏付けている。MIT NANDAの報告によると、エンタープライズAIパイロットの95%が測定可能なROIを生み出す前に頓挫している。S&P Globalの調査では、2025年に企業の42%がほとんどのAIイニシアチブを放棄したが、これは1年前のわずか17%から増加している。RANDの分析はさらに厳しく、AIプロジェクトの過半数が失敗していると述べており、これは従来のIT実装の失敗率のおよそ2倍だ。
これらのプロジェクトが失敗し続ける理由がある。それは氷山の法則そのものだ：見えない部分があなたを沈めるのである。
AI氷山の説明
水面上には、人々を魅了するものすべてがある：流暢な出力、洗練されたインターフェース、エンドツーエンドのソリューションを模倣する統合機能。これらの概念実証は専門的に見え、数週間で組み立てることができ、即座のビジネス価値を暗示している。有能なチームはこの目に見える層を素早く構築し、予算と経営陣の支持を獲得するデモを作成する。
しかし水面下には、本番環境での生存を決定する大部分が横たわっている。セキュリティフレームワークは企業システム全体での認証を処理し、コンプライアンス管理は管轄区域全体で規制要件を満たす。監視プラットフォームはモデルのパフォーマンスを監視し、意思決定経路を追跡する一方、継続的なテストパイプラインはドリフトやバイアスが出力を破壊する前に検出する。オーケストレーション層は、データフローが複雑になった場合に複数のモデルを整合させる。
この水面下のインフラストラクチャは、実際の開発作業の大部分を占めている。一歩引いて見ると、不均衡は明らかだ：企業は見栄えの良いものに予算を注ぎ込む一方で、AIを信頼性が高く、コンプライアンスに準拠し、収益性のあるものにする基盤は資金不足のままだ。
目に見えるパフォーマンスと目に見えない価値
組織が同じ氷山に繰り返し衝突する理由は理解できる。意思決定者は自然と観察・測定できるものに焦点を当てる。パイロットや初期展開の間、彼らは知的に応答し、意味のあるタスクを完了するシステムを目にする。テクノロジーは機能的に見え、より広範な展開の準備ができているように見える。
目に見えないインフラストラクチャは、初期の議論で即座のビジネス価値を生み出さないため、注目を集めにくい。セキュリティフレームワーク、コンプライアンスシステム、監視、オーケストレーションはすべて、AIをより賢く見せることなくタイムラインを延長するコストセンターのように見える。
この時点で、プロジェクトは予測可能なサイクルに入る。印象的なパイロットが実世界のデータ量、規制要件、運用の複雑さに対応できないのだ。目に見える層が基盤ではなく、天井になってしまう。
これが高い失敗率の背後にある同じ盲点だ。組織は初期の活動と持続的なリターンを混同している。彼らは水面上にあるものを測定するが、ROIの本当の決定要因は水面下に沈んでいる。
効果的な5つの戦略的シフト
ほとんどのエンタープライズAIパイロットは同じ理由で失敗する：経営陣の権限がない、P&L（損益計算書）との関連がない、そしてシステムが実際にビジネスを動かすという証拠がない。失敗率を克服する企業は、投資方法において5つのシフトを行う：
1. スポンサーシップと資金を最上位に置く。 経営陣の権限のないAIは到着時点で死んでいる。CEOが予算と保護で取り組みを支援しなければ、それは規模に達する前に頓挫する。
2. すべてのイニシアチブをビジネス価値に結びつける。 AIが収益、利益率、コスト、リスクを変えなければ、それは単なる雑音だ。勝者はP&Lに対する影響を測定し、それ以外のすべてを削減する。
3. 拡大する前に効果を証明する。 証拠がなければ予算もない。ベースライン、コントロールグループ、シンプルなダッシュボードがイニシアチブを前進させるかどうかを決定する。効果の証明が拡大を獲得する。
4. 企業のコンテキストとデータの準備を優先する。 汎用モデルはすぐに限界に達する。真のROIはAIを企業データ、ワークフロー、許可されたシステムに接続することから生まれる。コンテキストがパイロットと本番を分ける。
5. 人を乗数として扱う。 採用は自動的ではない。チームはスキルの再習得が必要で、ワークフローは再設計が必要で、信頼は獲得されなければならない。従業員がAIを仕事の代替ではなく強化として認識すると、採用は定着し、価値は複合的に増加する。
エージェントAIで目に見えない作業を管理可能にする
5つのシフトは、今日の氷山を乗り切るためにリーダーが必要とする規律だ。そしてエージェントAIは、組織が氷山に完全に対処する方法を変革している。無限の足場を必要とする一枚岩のシステムを構築する代わりに、特化したAIエージェントがインフラストラクチャスタックの異なる層で操作できる。
氷山現象がリアルタイムで展開するインシデント対応を考えてみよう。従来の監視は検出—経営陣を感心させる目に見える層—に優れているが、実行時に破綻する。システムが故障すると、チームは手動でランブックを検索し、複数のプラットフォームを操作し、重要な時間が過ぎていく間に結果を文書化する。
対照的に、エージェントシステムは通常解決を脱線させる複雑さを処理する：自動化された根本原因分析、テレメトリの相関関係、ナレッジベースの検索、修復の実行。表層のエージェントは、平易な言葉でのインシデント要約とレポートを通じてビジネス成果に焦点を当てる。
この分離は方程式を完全に変える。組織はビジネスに影響するインシデントを直接解決するエージェントに投資しながら、基盤となるオーケストレーションを管理されたインフラストラクチャとして扱うことができる。複数のエンジニアが何時間もかけて対応を調整する代わりに、特化したエージェントが従来は広範な手動調整を必要としたことを処理する。エージェントAIはこれらの失敗統計に関するすべてを変える可能性がある。
氷山全体を見る
教訓は単純だ：基盤を無視すれば、エージェントAIも以前のパイロットのように頓挫するだろう。それらがあれば、目に見えない作業は扱いやすくなり、氷山は船を沈めなくなる。トップダウンのスポンサーシップを確保し、イニシアチブをビジネス価値に結びつけ、効果の証明を要求し、AIを企業のコンテキストに接続し、人々を巻き込むリーダーは、その恩恵を享受する態勢が整っている。
エージェントAIはその分断をさらに鮮明にする。「水面下」の作業を優先する企業は、エージェントが彼らの投資を増幅するのを目にするだろう。彼らは多くの企業を沈める原因を、成功の基盤そのものに変えるだろう。
