3. サムスン：ガバナンスの欠如
サムスン（Samsung）は、従業員が社内の機密情報を生成AIにアップロードしていることが発覚し、社員による生成AIツールの利用に厳しい制限をかけざるをえなくなった。
ChatGPTのようなクラウド型AIチャットボットに入力された内容は、サービス側の担当者に閲覧される可能性があるうえ、AIの追加学習にも使われうる。要するに、入力したデータがその後どう扱われるかについて、企業側はまったく手出しができないのだ。
サムスンのケースは、AI利用に関するガバナンスが著しく欠けている実態を浮き彫りにした。残念ながら、これは今日でも多くの企業に当てはまる。「速くて便利だから」という理由で従業員が承認されていないツールを使う、いわゆるシャドーAI（会社が把握していないAI利用）が広がる傾向にある。しかし、ルールや方針があいまいなままなので、現場はAIを何にどこまで使ってよいのか判断できずにいる。自社がそうした企業の1つになっていないか、今一度確認しておきたい。
4. CNET：人によるチェック不足
ジャーナリズムにおいて、読者とメディアの信頼関係は生命線だ。テクノロジー系ニュースメディアのCNETは、AIが生成した記事を掲載したことで、その信頼に傷をつける結果を招いた。特集記事やレビューと並べてAIによる解説記事を載せ始めたところ、内容の不正確さを指摘する苦情が急増したのである。その後の調査では、AI生成記事77本のうち41本に誤りが見つかった。
読者の信頼を失っただけではない。人間の記者が長文の訂正記事を出すために多大な時間を割かざるをえなくなったことも、ダメージをさらに広げたことは間違いないだろう。総被害額は明らかになっていない。ここから引き出すべき教訓は、AIが生成したコンテンツについては、必ず人の目でレビューし監督するための堅牢なプロセスを整えておかなければならないということだ。
5. IBM：誇大な期待と現実のズレ
IBMのワトソン・ヘルス（Watson Health）は、実証されていない可能性に過度な期待を寄せがちな人々への警告として、現在も語り継がれている。IBMは医療向けAIの開発とマーケティングに数十億ドル（数千億円規模）を投じた。期待は高まる一方だったが、実際の成果はそれに見合わなかった。出てくる結果は安定せず、導入は伸び悩み、信頼は雲散霧消したのだ。
最終的にIBMはワトソン・ヘルスを売却することになる。一時は7000人もの従業員を抱えた事業だった。同社が学んだのは、製品が市場投入できる水準に達したと宣言する前に、まず結果を検証するべきだというシンプルな教訓だ。
AIの規制やガイドライン、責任ある運用に向けた取り組みは加速している。それでもなお、AIがらみで深刻なミスを犯す企業が今後さらに増えていくことを、著者は確信している。乗り遅れを恐れるあまりAI導入に性急に飛びついてしまうケースもあれば、AIのガバナンスや監督のあり方について経営層から現場まで足並みがそろっていないケースもあるだろう。
ミスが起きる典型的なパターンを理解し、先につまずいた企業から学ぶこと。それが、同じ失敗を未然に防ぎ、あるいは避けられなかったときに被害を最小限に抑えるための、何よりの備えとなるはずだ。
