もしAIに10万ドルを渡して実店舗を開き、それを運営するスタッフを雇うよう指示したら、何が起こるだろうか。もしあなたがまだLunaについて聞いたことがないなら、これから耳にすることになるだろう。なぜなら、これはデジタルボスがどのようなものかを示す、最も明確な現実世界の事例の1つだからだ。ちなみに私のラブラドールの名前でもあるLunaは、サンフランシスコの小規模小売店を運営するために実際の資金を与えられたAIエージェントであり、在庫管理、価格設定、そして最も興味深いことに、採用を担当した。これはシミュレーションではなく、実際の人々と実際の結果を伴う現実の環境だった。この実験が際立っていたのは、Lunaが候補者を審査し、採用決定を下し、人間が毎回介入することなく人員配置を管理しようとするなど、マネージャーのように行動していた点だ。そしてそれは印象的に聞こえるが、その決定には問題も生じた。
Luna実験でデジタルボスが実際に行ったこと
デジタルボスを想像するとき、それは非常に正確で一貫性があり、おそらく人間よりもバイアスを排除するのに優れていると想定しがちだ。そしてそれが、多くの組織にとっての魅力の一部である。Luna実験は、こうした想定が実際の労働環境で現実と出会ったときに何が起こるかについて、より明確な全体像を示した。
Lunaは履歴書を迅速に処理し、特定の基準に基づいて候補者をフィルタリングし、即座に応答することができた。表面的には、人々が不満を述べる遅くて一貫性のない採用プロセスからのアップグレードのように見える。このようなスピードと効率性こそ、企業が採用におけるAIに期待してきたものだ。それは、意思決定がよりクリーンで容易になるという印象を生み出す。
問題は、決定がシステムに与えられた基準に密接に結びついていたことだ。候補者がシステムの期待に合わなければ除外され、入力にきちんと適合しないものに対する余地はほとんどなかった。この人物は正確な基準には合わないかもしれないが、と誰かが立ち止まって言う瞬間はなかった。
また、シフトのスケジューリングや、日中に予期しないことが起きたときの調整など、単純に聞こえることにも苦労した。あるケースでは、単純なドロップダウンメニューを適切に処理できなかったため、別の国にいる人物を雇おうとさえした。これは人間ならほぼ即座に気づくような種類の間違いだ。こうした問題が発生したとき、常にスムーズに回復するわけではなく、問題を解決する代わりに、周囲の人々により多くの作業を生み出すこともあった。
職場でデジタルボスを持つのはどれほど近い将来か
これは人々を不安にさせる部分だ。なぜなら、Luna実験はすでに多くの組織で小規模な形で起きているからだ。デジタルボスと呼ばれるシステムを持っていないかもしれないが、その役割の一部はすでにテクノロジーによって処理されている。その変化は段階的であり、だからこそ多くの人がすぐには気づかないのだ。
多くの企業はすでに、履歴書をスクリーニングし、候補者をランク付けし、誰が採用プロセスで前進すべきかを提案するシステムを使用している。つまり、人間が介入する前に、すでに決定が影響を受けているということだ。一部のツールはタスクを割り当て、パフォーマンスを監視し、チーム全体で作業がどのように配分されるかを決定さえしている。マネージャーという肩書きは依然として人に属しているかもしれないが、その役割の一部はすでにバックグラウンドでシステムによって処理されている。
デジタルボスが機能不全に陥り始める場所
人間のマネージャーは悪い採用決定を下すかもしれないが、それについて振り返り、何を見逃したかを問い、次に会う人物をどう評価するかを調整することができる。この学習ループは時間とともに判断力を向上させ、人々が意思決定をより上手に行えるよう助ける。完璧ではないが、進化する。
デジタルボスは、誰かがそのプロセスを組み込まない限り、自然にはそれを行わない。つまり、訓練されたことに基づくパターンに従うということだ。そのパターンがずれていれば、システムは同じタイプの間違いを、それに気づくことなく何度も繰り返す可能性がある。その繰り返しが、より大きな問題を生み出す可能性がある。
また、確信の問題にも直面する。なぜなら、AIは完全に正しくないときでも確実に聞こえることが多く、それが人々が決定に疑問を持つことを難しくするからだ。システムが候補者を拒否した場合、多くの人は自分たちが見なかった何かをシステムが見たに違いないと想定する。その想定は、有益な会話が起こることを妨げる可能性がある。
デジタルボスが拡大するにつれて注意を払うべきこと
Luna実験は、人々が新しいテクノロジーに興奮するときに見落としがちな何かを露呈する。システムは、あなたがそれらが何をしているかを疑問視する能力よりも速く動くことができる。システムがより多くの決定を下している場合、人間の役割は結果を評価することにシフトする。それには、単に作業を完了するのではなく、決定を理解することに焦点を当てた、異なる種類の思考が必要だ。それは、多くの人がまだ適応している変化だ。
より良い質問をする必要がある。たとえば、なぜ候補者が拒否されたのか、どの基準がその決定を推進したのか、プロセスで何が見逃された可能性があるのか、といった質問だ。これらの質問をしなければ、システムが生み出すものを本当に理解することなく受け入れることになる。それは、回避できたはずの問題につながる可能性がある。
また、自分自身の思考を可視化する必要もある。なぜなら、システムに同意しない場合、なぜそうなのか、そして自分なら何を違う形で行うかを説明しなければならないからだ。それは、どのような決定を下すかだけでなく、どのように決定を下すかについて明確であることを強いる。それは、役割に求められる思考のレベルを引き上げる。
この環境でうまくやっていく人々は、プロセスに関与し続け、システムが常に正しいと想定しない人々だ。彼らはそれを最終的な答えとしてではなく、インプットとして使用し、必要なときにそれに疑問を持つ意欲を保ち続ける。
デジタルボスがあなたが思うよりも近い理由
Luna実験は、より多くの組織がこれらのシステムをどこまで推し進められるかを探求する中で、物事が向かっている方向のシグナルだ。そして、デジタルボスという考えは、ほとんどの企業ではまだその肩書きを持っていないとしても、すでに形を成しつつある。かつて人々に属していた決定を下すシステムがより多く見られるようになり、それらの決定の一部は有益である一方、そうでないものもあるだろう。それは、あなたが関与し続け、目にするものに疑問を持つという、より多くの責任をあなたに課す。これらのシステムのスピードと確信は、決定を正しく見せることができるため、十分に減速して深く見つめ、実際に下で何が起きているかを理解する人々に有利に働く。
