QRCodeChimpの創業者、ニティン・グプタ氏。20年以上にわたる技術開発と管理経験を持つテクノロジーリーダーである。
先月、ベンガルールを訪れた際、同じ創業者である友人と会った。コーヒーを飲みながら話していると、彼は自分の物流会社で最近導入した「AI搭載」の予測ダッシュボードを誇らしげに見せてくれた。彼によると、このモデル（6桁の価格タグがついている）は、出荷の遅延を予測し、ルートを最適化し、さらに顧客向けの更新情報も作成できるという。
しかし、彼はまた、このシステムにはエラーがあり、アナリストたちはほとんどの予測を手動でクロスチェックする必要があると述べた。AIは彼にスピードと規模をもたらしたが、精度や実用性はもたらさなかった。スマートではあるが、専門的ではなかったのだ。
その瞬間、私はクラーナ（Klarna）を思い出した。2022年、このスウェーデンのフィンテック企業は有名な話だが、700人のカスタマーサポート従業員をAIに置き換えたものの、顧客満足度が急落したため2年後に人間を再雇用することになった。今年、クラーナのCEOは同社が「AIに過度に依存」していたことを認めた。彼らは素早く対応できたが、必ずしも正確ではなかったのだ。
これで私は考えさせられた：AIのハイプ（誇大宣伝）はAIの価値と同じではない。ビジネスを効率的に運営するには、最大のAIモデルではなく、適切な（高速で専門的な）AIモデルが必要であり、それは自分の仕事を知る人間が調整できるものでなければならない。
さらに詳しく見ていこう。
大規模で汎用的なモデルの問題点
クラーナや私の友人の話は特別なものではない。2024年のマッキンゼーレポートによると、組織の78%が少なくとも1つのビジネス機能でAIを使用しているが、それによって大幅な財務的利益を報告しているのはずっと少数だという。これは、導入率は高いものの、深さが浅いことが多いことを意味している。AIのハイプに屈して、巨大な汎用モデルを導入し、その後、計算コストの上昇、予測不可能な出力、混乱したチームに直面する企業は数多い。これは、専門知識のない天才を雇うようなものだ。
専門性がサイズを上回る理由
私が自社で初めてドメイン固有のモデルを実験し始めたとき、私たちはその結果に非常に満足した。顧客の応答時間とコストの両方が低下し、精度は向上した。そのモデルはすべてを理解しようとしていなかった。ただ私たちを理解するだけでよかったのだ。
それが専門性の利点である。ドメイン固有のモデルは、あなたのビジネス用語を話し、より軽く高速に実行でき、再トレーニングやガバナンスも容易である。ガートナーの予測も、ドメイン固有AIに関する私たちの経験を裏付けている：2027年までに「組織は、汎用の大規模言語モデルよりも、小規模でタスク固有のAIモデルを3倍多く使用するようになる」と予測している。私は「1つのモデルですべてをこなす」時代は衰退しつつあり、新しいゴールドスタンダードは正確で文脈を認識するAIだと考えている。
スピードが機能ではなく戦略となるとき
私の友人のAIシステムは、ルート更新の生成に10〜15秒かかった。フラストレーションから、彼のチームは手動のスプレッドシートに戻った。AIの導入がいかに脆弱であるかを示している。特に顧客サービス、価格設定、予測メンテナンスなど、ミリ秒が収益や評判の損失を意味する可能性がある分野では、レイテンシー（遅延）がビジネスを殺してしまう可能性がある。
より軽量で専門化されたモデルは、多くの場合、パフォーマンスが向上するだけでなく、より高速で、インフラのオーバーヘッドも削減できる。私たちの導入では、巨大なモデルから調整された専門モデルに切り替えることで、レイテンシーが大幅に削減され、クラウドコストも削減された。これは実質的な節約である。
なぜ「人間による調整可能性」が未来なのか
ビジネス向けAIで最も過小評価されている要素の1つは、モデルをどのようにトレーニングし調整するかである。私の経験では、最良の結果は、ドメインの専門家がコードベースに触れることなく、AIの出力を指導、修正、継続的に形作るシステムから得られる。これが私が人間による調整可能性と呼ぶものだ。
ガートナーの調査によると、AI成熟度が高い組織（システムを積極的に管理・調整している組織）の45%が、AIプロジェクトを少なくとも3年間運用し続けているのに対し、成熟度の低い企業ではわずか20%にとどまっている。私たちも同じパターンに気づいた。マーケティングチームがトーンとロジックを直接調整できるようになると、エンゲージメント指標は週を追うごとに改善した。ループ内の人間はオプションではなく、ループそのものなのだ。
汎用モデルを採用する隠れたコスト
多くのビジネスリーダーは、すべてを実行する1つの巨大なLLMというアイデアを気に入っているが、継続的なコストを認識している人はほとんどいない。スタンフォード大学人間中心AI研究所（HAI）のAIインデックスレポート2024によると、GPT-4のトレーニングには推定7800万ドルのコストがかかり、Gemini Ultraは計算に1億9100万ドルを必要としたと報告されている。
計算はこうだ：より大きなモデルは通常、より大きな請求書、より遅いイテレーション、より重いインフラを意味する。そのため、多くの賢明な企業は、展開が速く、運用コストが安く、メンテナンスが容易な、軽量で専門化されたモデルを採用している。また、AIの透明性に関する規制が厳しくなると、ドメイン固有のモデルは、巨大で不透明なブラックボックスよりも説明しやすくなる可能性がある。
専門的AIへの移行方法
私が知っている多くの創業者は、AIの戦略が抽象的すぎるように聞こえるため圧倒されている。ここでは、よりシンプルなプレイブックを紹介する：
1. スピードとコンテキストが最も重要な場所を特定する。そこから始める。
2. 高ボリュームのタスクには専門モデルを使用し、より複雑な推論を必要とする仕事には大規模モデルを温存する。
3. チームに微調整の所有権を与える。人間による修正を表面化するダッシュボードを構築する。
4. 顧客の待ち時間、応答の正確さ、出力あたりのコスト（CPO）を追跡する。
5. モデルのバージョン管理を行い、変更を記録し、根拠を文書化する。私の経験では、これらのステップはダメージコントロールよりも安価である。
多くのリーダーは、AIを組織的な考え方の転換ではなく、技術的な取り組みとして扱っている。彼らは戦略をアウトソースし、内部のリテラシーをスキップし、奇跡を期待する。しかし、私が学んだのは、文化がAIを朝食に食べてしまうということだ。チームがツールを理解または信頼していなければ、どんなモデルも救いにはならない。
代わりに、「AIスプリントレビュー」の実施を検討してみよう。製品スプリントと同様に、出力をレビューし、問題にフラグを立て、プロンプトを調整し、影響を追跡するための時間を確保して、AIを運用の一部にする。
本当の価値：人間と機械のパートナーシップ
私の友人に話を戻そう。彼は現在、巨大なモデルを段階的に廃止し、トラックのルートを数秒で最適化し、オペレーターのフィードバックから日々学習する、軽量で物流に特化したAIを構築している。このプロジェクトはより小規模で安価であり、実際にROIを提供している。
それが未来だ：反応するのに十分な速さを持ち、成果を出すのに十分な専門性を持ち、調整を維持するのに十分な人間による調整可能性を持つAI。ただし、過度に専門化しすぎたり、専門化が不十分だったりすると、脆弱性やリソースの無駄のリスクがあるので注意が必要だ。
過去10年が機械に思考を教える時代だったとすれば、次の10年は機械と共に思考する方法を教える時代になると私は考えている。
