Billtrust SVP AI＆アナリティクス部門責任者、アーサン・シャー氏。
フォレスターは、2026年にはCIOの4分の1が、自社組織内のビジネス主導型AI失敗プロジェクトの立て直しを求められるだろうと予測している。
生成AIや大規模言語モデル（LLM）の最近の波により、組織内でのAI活用方法が変化する中、回避すべき共通の失敗パターンがいくつか存在する。ここでは、AIプロジェクトが失敗する3つの理由と、それらを成功させるための洞察を紹介する：
1. 根本的な問題を誤って捉えたソリューションの構築
金融リーダーたちが私にAIイニシアチブが停滞した理由を尋ねるとき、彼らは通常、データ品質の問題やモデルの精度の問題について聞くことを期待している。それらは確かに重要だが、根本原因であることはほとんどない。
最も一般的な失敗ポイントはもっと早い段階で発生する：チームが間違った問題に対するソリューションを構築するときだ。債権回収チームは「紛争解決の自動化」を望むが、実際の課題はキャッシュフローを加速させながら顧客関係を維持することである。与信チームは「支払いリスクの予測」を望むが、実際に必要なのは変化する顧客行動に基づいて与信判断を適応させるシステムである。
この不一致が起こるのは、組織がAIをビジネス変革ではなく、技術導入として捉えるからだ。彼らは「AIは何ができるか？」と問うのではなく、「我々はどのような成果を達成する必要があるか？」と問うべきなのだ。
正しく実行するには
AIから真の見返りを得るために、金融チームはまず、ビジネスニーズを特定し、AIをどこに適用できるかを理解することから始めるべきであり、AIを無作為に適用するのではない。
「顧客問い合わせ用のAIチャットボットが必要だ」と言う代わりに、成功しているチームは「顧客関係を強化しながら、顧客の問題をより迅速に解決するにはどうすればよいか？」と問う。債権回収においては、成果は「顧客満足度スコアを維持しながら、売掛金回収日数を削減する」かもしれない。
2. 人間の判断を増強するのではなく置き換えようとする
B2B決済では、すべての顧客関係にニュアンスがある。支払いの遅延は、財政的困難や運用上の課題を示している可能性がある。AIは何千もの口座にわたるパターンや異常を浮き彫りにできるが、データを戦略に変えるのは金融のプロフェッショナルが提供するコンテキストだ。
導入数は明確な状況を示している。Billtrustの最近の調査によると、金融意思決定者の90%が現在、金融判断にAIを利用しており、83%がAIが財務リスク管理へのアプローチにプラスの影響を与えたと報告している。しかし、導入だけでは成功は保証されない。
組織が人間の専門知識を高めるのではなく、それを回避するAIシステムを設計すると、実際のビジネス価値を生み出す判断力を失う。その結果、技術的には正確だが戦略的には役に立たない出力を生み出すシステムになるか、AIを信頼して使用するほどではないチームになる。
正しく実行するには
モデルを展開する前に意思決定フレームワークを構築する。AIが自律的に行動すべき場合、人間の承認のために行動を推奨すべき場合、人間の専門家にエスカレーションすべき場合について具体的に定義する。一定のしきい値でAIが人間の承認なしに行動できるようにする。
与信判断について、私の会社は明確なしきい値を確立した：AIは定義されたパラメータ内で標準的な取引を承認し、異常なパターンにフラグを立て、矛盾する信号を持つケースをエスカレーションする。これらのガードレールにより、システムはリスクを管理しながら規模を拡大できる。
同様に重要なのは：フィードバックループの構築に投資することだ。AIシステムは人間の決定から学ぶ必要があり、人間はAIがどのように結論に達するかを理解する必要がある。専門家がAIの推奨を上書きするタイミングとその理由を把握するシステムを構築する。このデータは時間の経過とともにモデルのパフォーマンスを向上させ、AIが正しく人間の直感が間違っている場合（これは人々が予想するよりも頻繁に起こる）を特定するのに役立つ。
3. 必要な組織変革の過小評価
リーダーたちはより難しい問題を無視しながら、アルゴリズムの選択とモデルトレーニングに焦点を当てる：意思決定権限はどのように変化するのか？既存のワークフローはどうなるのか？成功をどのように異なる方法で測定するのか？
私は、技術が失敗したからではなく、組織が異なる働き方の準備ができていなかったために、有望なAIプロジェクトが崩壊するのを見てきた。
正しく実行するには
金融分野でAIから真の価値を得ている企業は、単にAIツールを既存のプロセスに追加するのではなく、仕事の進め方を再設計している。
これにはリーダーシップの考え方の根本的な転換と、チーム全体のスキルの再評価が必要だ。従来の管理手法では、すべての意思決定ポイントに人間の監視が必要だった。AIで強化された組織は、戦略的な境界を定義し、その範囲内でインテリジェントシステムがナビゲートできるようにする。このアプローチは、方向性を維持しながら、人間の限界を超えて意思決定をスケールさせる。
また、金融チーム全体で新しいスキルも必要となる。AIで強化されたワークフローで価値のある能力は、コンテキストを提供し、ビジネスロジックを明確に表現し、結果を戦略的に解釈する能力だ。AIツールに対する技術的な快適さは重要だが、AIの出力をいつ信頼し、いつ疑問視するかについての批判的思考がより重要である。技術またはビジネスプロセスを理解し、AIのコンテキストとしてそれらのビジネスプロセスを明確に表現できる多才なチームメンバーは、資産として育成する必要がある。
AIの仕組みについてチームをトレーニングするが、シナリオプランニングにも同等の時間を費やす：AIが異常なことにフラグを立てたらどうするか？推奨事項をどのように検証するか？いつエスカレーションするか？
実際に機能するAIシステムの構築
成功は適切な最初のプロジェクトを選ぶことから始まる。人間の判断が価値あるものの、量や複雑さによって制約されている領域を特定する。明確な成功指標と強力なフィードバックメカニズムを備えたパイロットを構築する。初日から完璧な精度を追求するのではなく、特定のコンテキストで何が機能するかを学ぶことに焦点を当てる。
最も重要なのは、完成したシステムで彼らを驚かせるのではなく、AIが彼らの仕事をどのように強化するかを設計する際に金融チームを関与させることだ。これらのツールを日常的に使用するチームは、顧客関係、支払い行動、リスク要因のニュアンスをどのようなアルゴリズムよりも理解している。設計段階での彼らの意見は、フォレスターがCIOが修正する必要があると予測している失敗を防ぐ。
目標は、AIが定型業務を処理し、人間が戦略に集中できる環境を作ることだ。金融のプロフェッショナルがデータを追いかけることに費やす時間を減らし、その意味を解釈することにより多くの時間を割くとき、それがAIが真の見返りをもたらす瞬間である。
これを正しく実行する組織は、今後数年間で信じられないほどのレバレッジを持ち、スケーラビリティと成長のために人的資本をより良く位置づけることができるだろう。AIを単なる効率化ツールとして扱う組織は、金融判断がどのように行われるかを根本的に再考した競合他社に遅れをとることになるだろう。
