AIの試験導入は、AIが一見扱いやすいものだと思わせることがある。現実が姿を現すのは、規模を拡大するときだ。
50人を対象に見事に機能するシステムも、5000人に広げるとコストが膨らみ、リスクが高まり、管理が難しくなる可能性がある。トークン消費量は急増し、ガバナンスは複雑になり、責任の所在は曖昧になる。そして、その実験に自ら参加したわけではない従業員までもが、突然その影響を受けることになる。
有望に見えたAI施策の多くがほころび始めるのは、この段階である。AIを大規模に活用して成果を上げている企業は、モデルの性能と同じくらい、運用面の準備を重視している傾向がある。そこで、AIをパイロットから本番環境へ移行する際に企業が繰り返し犯している5つの過ちと、その回避策を紹介する。
拡張コストを過小評価する
AI施策の拡張コストは、必ずしも直線的に増えるわけではなく、指数関数的に膨らむことも多い。Uberのように、この現実を苦い経験として知ることになった企業もある。同社が5000人規模のエンジニアリングチームにAIコーディングアシスタントを展開したところ、年間のトークン割り当てをわずか4カ月で使い切ってしまった。
プロジェクトの拡張にエージェント型アーキテクチャを活用する場合、状況はさらに厳しい。常時稼働し、自律的に動く性質上、AIエージェントは非エージェント型AIよりもはるかに速いペースでトークンを消費することが多い。教訓は明らかだ。パイロットから本番環境へ踏み出す前に、コストを綿密にモデル化し、予算への影響を十分に理解しておく必要がある。
ガバナンスを軽視する
ガバナンスとガードレールの整備は、パイロット段階よりも大規模展開時の方がはるかに負担の大きい作業になることが多い。パイロットは自己完結的で、対象は審査と訓練を受けた限られたグループにとどまる。だが組織全体に展開されると、手抜きや単純な認識不足が、予測しにくいリスクを生む。
「シャドーAI」（従業員が、承認も評価もされていないツールを会社の方針に反して使用すること）は、すでに規制当局の対応を招くほど深刻なサイバーセキュリティ事案を引き起こしている。企業がガードレールとガバナンスの必要性を過小評価し続ければ、こうした事案や、それに付随する罰則はさらに一般的になるだろう。
説明責任を忘れる
パイロット段階では、通常、その責任は運用している担当者に帰着する。しかし規模を拡大すると、顧客、規制当局、さらには裁判所までもが、ミスの責任を負うべき相手を探す可能性がある。そして企業がすでに知ることになったように、モデル自体に責任を負わせることはできない。大規模運用において、損害を引き起こす誤回答は単発のエラーではなく、組織全体の方針上の失敗である。
