さらに、自動化されたシステムは解釈が難しい提案や、前後関係・背景事情について理解が求められる提案をすることがあるが、自動化バイアスがかかるとこうした点を十分に検討することなく提案を受け入れ、重要な意思決定の過程で情報の扱い方を間違ってしまう恐れがある。
自動化バイアスは、過信につながる可能性もある。システムがタスクのあらゆる側面を正しく処理してくれるとの思い込みから、人間のオペレーターがシステムの発する警告を無視・軽視したり、システムの作動を積極的に監視しなくなったりするのだ。
そして、自動化への依存が長期化すると、技能の低下が起きる。自動化システムに対するオペレーターの依存度が高くなるほど、手動やシステムの補助なしでタスクを実行する能力が低下し、システムへの介入が必要な場面で効果的に介入できない状態が生じかねない。これは停電など、緊急事態で自動化システムが停止した場合に大問題となり得る。
自動化バイアスを克服する
自動化バイアスの影響を軽減するには、人間と機械の相互作用の強化、トレーニングの改善、自動化された提案を批判的・懐疑的に検討する文化の育成に重点を置いた、多面的なアプローチが必要だ。自動化バイアスを防ぐ3つの方法を紹介しよう。1. 懐疑主義を奨励する。批判的思考力の基礎と応用は、自動化バイアスの克服に大いに役立つ。ただし同時に、チームメンバーに自分の頭で考えるよう奨励し、納得のいかないことがあれば発言できる環境をととのえることも求められる。
2. 多様な視点を求める。可能な範囲でセカンドオピニオンとして第三者の人間の見解を聞き、データの解釈や、それに基づく行動について、別の方法がないか確認する。
3. 人間と機械の協業体制を改善する。意思決定プロセスにおいて人間が判断する余地を作り、人間と機械の双方の長所を活かしつつ、自動化システムの提案を批判的に評価できるようにする。
自動化バイアスを克服するには、自動化のメリットと人間の判断がもたらす有益な知見とのバランスを意識的にとる努力が欠かせない。レッドチーム評価ツールは、批判的な分析を促進し、自動化システムへの依存から生じる過信を疑ってかかるのに活用できる。
AIの真の可能性は、人間の意思決定を改善できる点にある。人間と機械が互いを補完する役割を果たすことを重視した戦略を導入すれば、組織は意思決定プロセスを強化し、効率性とレジリエンス（回復力）の両方を確保できる。
（forbes.com 原文）
