しかしAIエージェントは本当に責任を「負う」ことができるのだろうか。
AIエージェントは解雇されない。仕事を承認し、プロセスと成果を管理し、顧客、規制当局、あるいは経営陣から「何が起きたのか」と問われたときに答えるのは、結局のところ従業員である。
またこの研究は、「AI従業員」による仕事だとされるものをレビューしたマネージャーは、AIツールからの出力だとラベル付けされた仕事をレビューしたマネージャーに比べて、追加レビューにエスカレーションする頻度が44％高かったことも示した。テクノロジーが機能的なソフトウェアではなく同僚として位置づけられると、人々は自分の判断への自信を失いやすくなるのだ。
そして、そのとき品質が低下した。
「AI従業員」が生成した文書をレビューしたマネージャーは、同じ成果物であっても、それがAIツールの出力だと表示された場合に比べ、見落とす誤りが有意に多かった。研究者は、予算計算の誤り、不適切な採用基準、矛盾する財務上の前提といった、職場では明らかな不整合を盛り込んだが、参加者は、出所がAIの「同僚」だと信じたときほどそれらを見逃した。
人々は、「ツール」を観察し、精査し、使うやり方と、「チームメイト」といっしょに働くやり方を同一にはしない。
ソフトウェアがアシスタントとして位置づけられている場合、働き手はそれを二重に確認しがちだ。一方で、ソフトウェアが有能な同僚として枠づけられると、精査は緩む。
さらに、その下にはより深い感情的な層が広がっている。
人間らしいAIの枠づけを用いる組織のマネージャーは、職業上の不確実性がより高く、AIが最終的に社内でどのように使われるかに対する信頼が低いと報告した。無意識のうちに従業員へ、会社はソフトウェアを「支援」ではなく「代替」として見なすかもしれない、というメッセージを送ってしまっているのである。
研究の参加者の1人は、こう端的にまとめた。「人に、AIによって仕事を失うと感じさせたいなら、組織図に載せればいい」
皮肉なことに、この研究は、リーダーがAIをチームメイトとして位置づけたからといって、従業員がテクノロジーを受け入れやすくなるわけではないことも示している。実際に導入を押し上げたのは、より伝統的な要素だった。すなわち、マネージャーが使用を促し、実験を評価し、日々のワークフローにAIを目に見える形で組み込むことだ。
それこそが、ここで得られる最大の教訓かもしれない。
