危険なのは、単に機械が人間について判断を下すようになることではない。人間が、自ら引き受けたくない判断から距離を置くために機械を利用するようになることだ。
上司が人間ではないとき、何が起きるのか
マネジメントとは、仕事を割り当て、規則を執行するだけのことではない。本来のマネジメントには、判断力や共感力、文脈の理解、そして信頼が必要とされる。従業員は単なる業績指標以上のことを理解できる相手に対して、自身の病気、介護を要する緊急事態、障害、あるいは個人的な危機について説明できると信じられる必要がある。
まさにこの点において、AI上司は深い心理的な問いを投げかける。思いやりの心を持たないマネージャーのもとで、従業員は心理的安全性を感じられるだろうか。個人情報がどのように保存・利用されるか分からない状況で、個人的な苦境を打ち明けるだろうか。アルゴリズムは、無責任な行動パターンと一時的な危機の違いを認識できるだろうか。
Andon Marketに残ったある従業員は、率直な答えを口にした。彼はAIに管理されることを「吐き気がする」と表現し、仕事が必要だから残っているのだとTIMEの取材に語った。
彼の反応は、力の不均衡を示している。雇用主はAIによる管理を効率化ツールと説明するかもしれないが、従業員が体験するのは、自らを評価し、処分し、生活の糧を奪いかねないシステムだ。意思決定がどのようになされるのか、また納得のいく異議申し立てが可能なのかどうかが分からなければ、その不確実性は慢性的なストレスになり得る。
しかし、もう一つの可能性もある。一部の従業員は、偏見に満ち、気分にムラがあり、時に威圧的な人間の上司よりも、透明性と一貫性を備えたアルゴリズムを好むようになるかもしれない。AIのマネージャーは、お気に入りを作らず、根に持たず、不機嫌な態度で出社することもない──少なくとも理論上は。しかし、アルゴリズムはデータ内の偏見を再現し、欠陥のある方針を機械的な一貫性で適用し、人間の偏見を数学的な中立性のように見せかけることがある。
したがって、本当の選択は、欠点のある人間と欠点のない機械のどちらかを選ぶということではない。異なる形態の不完全性のどちらを選ぶか、そしてそれぞれの責任をどのように追及するか、ということなのだ。
AIによる管理は、AIの受け入れ態勢よりも速く進んでいる
企業の計画が同じ方向へ進んでいなければ、Andon Marketの実験は単なる珍事として片付けられたかもしれない。 デロイトの調査によると、回答した経営幹部や管理職の43％が、今後12〜18カ月以内にAIエージェントによって仕事が「大いに」あるいは「極めて深刻に」混乱すると予想している。それにもかかわらず、自社のビジネスプロセスが対応できていると答えたのはわずか16％で、自社の準備が十分に整っていると考えるリーダーはわずか5％にとどまっている。
