AIはビジネスを変革する力を持つ。しかしエア・カナダ、ジロー（Zillow）、サムスン、CNET、IBMといった企業で実際に起きた失敗事例は、物事がいかに早く悪い方向へ転がりうるかを示している。
AIはすでにビジネスのあり方を大きく変えつつあるが、同時に、極めて高くつく弱点もさらけ出しつつある。
生成AI、自動化、知的な意思決定をめぐる熱狂が広がっているとはいえ、この技術が真価を発揮できるかどうかは、それを支える戦略、ガバナンス、そして人間の判断力にかかっている。それらが欠けていれば、AIは顧客の信頼を損ない、機密データを漏洩させ、法的トラブルを招き、ささいなミスを巨額の損失へと変えてしまう。
ここでは、現実に起きた5つのAI失敗事例と、ビジネスリーダーが学ぶべき教訓を紹介する。
1. エア・カナダ：チャットボットの「幻覚」
2024年、カナダのある裁定機関は、エア・カナダ（Air Canada）に対して乗客への賠償を命じた。同社のオンライン予約システムに組み込まれていたチャットボットが、存在しない割引を「ハルシネーション」（幻覚＝AIが事実無根の情報をもっともらしく生成する現象）によって作り出してしまったのだ。報じられているところによれば、このボットは祖母の葬儀に向かう乗客に対し、運賃割引について誤った案内を行ったという。具体的には、まず正規運賃を支払えば後から割引を申請できると請け合ったのである。
しかし、これは同社の規定に反する内容であり、エア・カナダは割引の適用を拒否した。それでも裁定機関は、チャットボットの誤りを理由に、同社が乗客に812.02ドル（約13万800円）を支払うべきだと判断した。
この件について、航空旅客の権利擁護団体エア・パッセンジャー・ライツ（Air Passenger Rights）会長のガボール・ルカーチは、次のように総括している。「業務の一部をAIに委ねるのなら、そのAIがすることに対する責任は、自社が負うことになる」。
2. ジロー（Zillow）：機械学習の読み違い
不動産サービス企業のジロー（Zillow）は、住宅を自動的に買い取って転売し、利益を上げるツールを機械学習で構築した。だが、結果は期待を大きく裏切るものとなった。売買差益を最大化するため、最適な買い取り価格と販売価格を割り出すよう設計されたアルゴリズムは、不規則に動く不動産市場をうまく予測できなかったのだ。その結果、高値づかみが相次ぎ、5億ドル（約805億円）もの損失を生むことになった。
最終的に同事業部門は丸ごと閉鎖され、ジローはこのプロジェクトを高くついた授業料として処理した。AIのミスは、瞬く間に膨らんでいく。ごくわずかな計算違いや「丸め誤差」程度のズレでも、放置すればすぐに大きな災難へと発展しかねないのである。
