規制当局は、AIが提供した情報を企業による声明として扱う傾向を強めている。「AIは誤りを犯す可能性がある」という定型的な免責文言は有用ではあるが、責任を免れる万能の切り札ではない。AIの出力と監督について誰が責任を持つのかを文書化し、自動化されたすべての判断を記録し、追跡可能にしておくべきだ。
拡張すべきでないものを拡張する
パイロットが成功したからといって、本格展開にふさわしい選択だとは限らない。パイロットは、ソリューションの有効性を示しやすいから、あるいはよく理解されているものの必ずしも事業上重要ではない課題を解決するから、という理由で選ばれることが多い。あるいは、特定の人々には強い印象を与えるが、事業が具体的かつ戦略的な目標を達成する助けには必ずしもならない場合もある。
導入を決める前に、それがどの問題を解決するのか、どの指標を動かすべきなのかを問う必要がある。そうしなければ、本当に重要なことには何も寄与しないまま、技術が機能することを証明するだけに終わりかねない。
人的要因を無視する
パイロットは一般に、従業員のごく一部にしか影響しない。組織全体への展開は、全員に影響を及ぼし得る。試験運用には、AIが自分のワークフローに何を意味するのかをすでに理解している人や、熱意のある人が参加しがちだ。本当の文化的影響は、全員が使い始めて初めて表面化する可能性があり、混乱の余地ははるかに大きい。人間の役割が不要になるのではないか、雇用は守られるのか、最終的な意思決定権は誰、あるいは何にあるのかといった懸念は、不安やストレスを引き起こす。
実際、最近のギャラップ社の報告書は、AIに不満を抱いたり帰属意識が低下した従業員がセキュリティリスクになり得るとまで示唆している。こうした問題に正面から向き合い、AIの影響について従業員が十分な情報に基づいた対話ができるようにすることが、大規模なAI主導の変革を成功させる鍵である。
AI実験を持続的な事業価値へ変える
AIの拡張を成功させるには、技術的な性能は課題の一部にすぎないと認識することから始まる。コスト、ガバナンス、説明責任、戦略的価値、そして人材について最初から計画している企業は、有望な実験を、組織全体に持続的な価値をもたらすAIへと変える可能性がはるかに高い。
