このギャップは、雇用主と労働者の双方にとって懸念すべきものだ。多くの企業は、AIシステムにどのような選択を許すべきか、いつ人間が介入しなければならないのか、結果に対して誰が責任を負い続けるのかを決める前に、AIシステムにより大きな自律性を与える準備を進めている。
労働者はすでに、周囲の制度よりも速く適応している。ETSとThe Harris Pollによる「Human Progress Report」によると、若年層はすでに自分の仕事の38％にAIが関与していると見積もっており、その割合は2年以内に58％に上昇すると予想している。また、若い労働者の76％が、過去1年間にテクノロジー、スキル、職務、または組織の優先事項に関わる大きな職場環境の変化を少なくとも1回は経験している。
次に起こる変化は、より身近で切実な問題になるかもしれない。AIは従業員が仕事を遂行するのを手助けするだけではない。その仕事を維持できるかどうかの判断を助ける存在にもなり得るのだ。
AI上司のための5つのガードレール
組織が雇用の行方を左右するような重大な決定や勧告をAIに許可する前に、労働者と雇用主の両方を守る安全策が必要である。
第一に、採用、スケジュール作成、評価、懲戒、解雇にAIが影響を及ぼしている場合は、その事実を従業員に伝えるべきだ。隠された権限は信頼を損なう。
第二に、指名された人間の意思決定者が引き続き責任を負わなければならない。「アルゴリズムが推奨したから」を企業の逃げ道にしてはならない。
第三に、従業員には、単なる自動化された再評価ではなく、独立した人間による審査につながる明確な異議申し立てプロセスが必要だ。
第四に、雇用主は、これらのシステムに偏見や不整合、文脈の欠落がないか定期的にテストすべきだ。意思決定は、不完全または歪んだ情報に基づいている場合でも、客観的に見えてしまうことがある。
最後に、企業は、AIが情報を提供してよい決定と、AIが決して支配してはならない決定を区別すべきだ。個人の生計や評判、健康に対するリスクが高ければ高いほど、人間による監視を強化しなければならない。
Andon Marketでの解雇劇は、AIがマネージャーに取って代わる準備ができていることを証明するものではない。むしろ、人間が促すまでシステムが行動を起こさなかったことは、このテクノロジーがまだいかに発展途上であるかを示している。しかし、これは心理的、組織的な大きな節目となるものだ。
職場における議論は、「アシスタントとしてのAI」や「同僚としてのAI」という段階を超えつつある。私たちは、人間を採用し、割り当て、評価し、懲戒し、そして解雇を勧告できるシステムである「権限としてのAI」の時代に入ろうとしている。
問題はもはや、従業員がAIと共に働くかどうかではない。彼らがAIの下で働くようになるのか、そしてAI上司が誤った判断を下したときに、雇用主がその責任を受け入れるかどうかなのだ。
