今日のAIをめぐる議論のほとんどは、モデルの機能に焦点を当てている。開発者たちは、自社のプロダクトがどれだけ難しい数学の問題を解けるか、どれだけ洗練されたコードを書けるかを競い合っている。新しいモデルがリリースされると、間もなくベンチマークランキングで上位に食い込み、最高水準の推論スコアを叩き出す。
しかし、こうした成果が確かに印象的である一方で、現在は新モデルのリリースがあまりにも速く、多くの場合、それだけでは決定的な競争優位をもたらさなくなっている。だからこそ筆者は、AIが価値を生み出すかどうかを実際に左右するのは、その周囲に構築されるインフラであると考えている。
世界で最も先進的なモデルを持っていたとしても、動作が遅く、顧客に快適なユーザー体験を提供できなければ、ほとんど役に立たない。
優れたモデルだけでは不十分な理由
モデルが強固で長続きする競争優位をもたらせない理由を正確に理解するには、まず過去数年でモデル層に何が起きたのかを見る必要がある。2023年には、フロンティアレベルの推論能力は、ごく一部の企業だけが実際に利用できるものだった。こうしたモデルの利用コストは非常に高く、競合に対する自然な参入障壁として機能していた。
しかし、その時代は急速に終わりを迎えている。高度な推論モデルの利用コストは毎年大幅に下落しているからだ。例えばGPT-4を見てみよう。2023年には100万トークンあたり約30ドル（約1万未満円）だったが、今日では同等（あるいはそれ以上）の能力を、そのごく一部の価格――場合によっては数セント――で得ることができる。しかもこれで終わりではない。今後4年間で、AI利用の一般的なコストは2025年比でさらに90%低下すると予想されている。
コストがもはやそれほど厳しい要因ではなくなったことで、オープンウェイト（重み公開）モデルは、独自仕様の最上位システムとの差をベンチマーク上で1桁台にまで縮めている。そのため、この競争で真に先行することはますます難しくなっている。
誰もが持っているなら優位性ではない
こうした広範な入手可能性は、高度な推論能力がもはやモデルの品質に大きな差を生み出せないことを意味する。実質的に何も失うことなく、あるプロバイダーから別のプロバイダーへ容易に乗り換えられるからだ。知能へのアクセスがより希少だった頃、開発者は自社モデルの品質を誇示し、可能な限り高いベンチマーク順位を示すことでユーザーを引きつけることができた。しかし現在、それはもはや選択肢ではない。
現在では、毎週数十、場合によっては数百ものAIツールが公開されている。開発者はしばしば、最も効率的なモデルを競争優位と見なし、ワークフローに適切に組み込むことを忘れてしまう。
こうした場合、モデルそのものを責める方が簡単なことが多い。しかし、それでも本質を見落としている。多くの企業で失敗が起きるのは、データが断片化していたり、アプリが既存ツールとうまく統合されていなかったり、コンプライアンス部門が有害になり得るエージェントの挙動を見落としていたりするからだ。開発者は、適切な支援インフラを構築する重要性を軽視しがちである。
そのため、競合を上回りたい企業は、洗練されたエコシステムに包まれた「十分に優れた」モデルの方が、進歩の最先端に立つモデルよりも優れている場合が多いことを受け入れるべきである。
強力なAIツールの3つの柱
他の多くの業界と同様に、AIの真の効率性はバックエンド、つまり製品の裏側で起きていることにある。
確かに、平均的なユーザーは内部をのぞいて苦労のすべてを理解するわけではないため、この部分を退屈だと考える人もいるかもしれない。しかし、この投資は長期的に見れば確かに価値を発揮する。競合は派手な新インターフェースの投入を急ぐかもしれないが、本当に思慮深い企業は適切な基盤の構築に集中する。そうでなければ、流砂の上に建物を建てるようなもので、持続可能ではない。
AI搭載製品が成功するには、習熟すべきことがいくつかある。まず、筆者の経験では、企業価値を最も生むのは、自社データにモデルをグラウンディング（根拠付け）することだ。データが低品質であれば、最高のモデルであっても満足のいく結果は出せないからである。「ガベージイン、ガベージアウト」と言われる通りであり、だからこそ開発者はまず、自社データが「ごみ」ではないことを確認しなければならない。
もう1つ念頭に置くべき点は、ツールが予測可能であるべきだということだ。AIは通常のソフトウェアとは異なる仕組みで動作するため、同じ質問であっても、意味は同じだとしても、少なくとも表現スタイルの面では多様な回答が返ってくる可能性がある。
一貫性のない出力は、製品が顧客に届く前に検出されなければならない。そうでなければ、顧客の業務や企業の評判を損なう可能性がある。当然ながら、これは単にスコアの高いモデルを選ぶだけで実現するものではない。
これら2つの問題に加えて、セキュリティ上の問題がある。実際、これはあらゆるAIベースのアプリにとって最も重要かもしれない。LLM（大規模言語モデル）は、読むべき情報と従うべき指示を確実に区別できない。そのためAIは、ユーザーに通知することなく隠れた命令に従う可能性がある。
この特有の危険は、ユーザーがAIに自分の代わりに自律的に行動させ、メッセージを送信したり文書を修正したりする場合に大きく増す。たった1つの誤った命令が、仕組み全体を崩壊させかねないからだ。難しいのは、制御を単にモデルへの指示として書き込むことはできず、アプリの周囲に構築しなければならない点である。
かつて通った道
包括的なAI搭載ツールを構築するには、創業者は複数のプロバイダーを切り替えられるようにし、単一のモデルを中心に製品全体を構築しないことを勧めたい。そのように依存しなければ、セキュリティ層が1つ増え、プロバイダー側の不都合な状況、たとえば障害、価格変更、予期せぬ緊急事態などによって自社の業務が中断されることから守られる。
さらに筆者は、人間が主導権を持ち、AIのあらゆる判断を承認する体制を維持することを推奨する。これらのシステムには、今なお適切な人間による監督が必要だからだ。
あらゆる大きな技術の波は、人々の目を引くブレークスルーから始まる。AIもその点では変わらない。しかし必然的に、真に持続的な勝者は、華やかな技術だけではなく、十分で保護されたインフラに投資する者の中から現れる。
