必要になったときにAIを止める「オフスイッチ」はあるのだろうか。すべてはガバナンスと責任の所在に集約される。だが残念なことに、AIが職場や生活に浸透し続けるなかで、ガバナンスも責任体制もあまりに不足している。
SmarterXが経営幹部2100人を対象に実施した最近の調査結果を見てみよう。安全かつ有意義な方法でAIに移行するために必要なガバナンス基盤を備えている組織は、わずか13％にすぎない。ロードマップを策定済みの組織も29％にとどまっている。回答者の3分の1にあたる32％は、生成AIに関する規定や倫理方針、監視組織などの明確なフレームワークが自社に存在しないと回答している。
SmarterXのリサーチディレクターで、本レポートの著者であるテイラー・レイディは、「AIが勝手に自律運用されるわけではない」と指摘する。「誰かが主導し、組織がどのツールを使用するか、それらをどのように運用するか、誰にトレーニングを行うか、どのようなガードレール（安全対策）を設けるかを決めなければならない。その主導権や責任があいまいなままでは、AI導入に向けた善意の取り組みであっても、停滞するか脱線する傾向にある」
回答企業の約59％はAIに関する意思決定を経営陣に委ねており、31％はテクノロジー部門のリーダーに割り当てている。16％は明確な責任者がいない、または誰が意思決定を担っているか不明だと回答している（複数回答）。
こうした動向を調査し、企業の経営層と議論を重ねてきたロペス・リサーチのマリベル・ロペスも、責任の所在を明確にする能力が、AIの普及が進む今日の組織における致命的な弱点になっていると同意する。
ビジネスリーダーは、自社でAIに直接関わっているかどうかにかかわらず、少なくとも機械による意思決定に対する拒否権を持つ必要があると、ロペスはクラリファイ360のCIOであるジョー・ピーターソンが主催した最近のウェブキャストでそう説明した。
