AI技術がそこまで効果的なのはなぜか？ 人間が偏見を持っていることは周知の事実だ。性差別を例に取ると、リーダーの役割や役員会、技術職の大半が男性で占められている状況に生涯にわたりさらされてきた人は、こうした地位に男性が就くことを好む偏見を持つようになる。AIの大きな強みは、採用プロセスの大部分から人間や人間が持つ偏見を取り除くところだ。採用プロセスの中で特に偏見が影響しやすい段階から人間の介入を除外すればするほど、偏見が意思決定に与える影響は減る。
フェッチャーでは顧客自身が候補者を評価することもできるが、最も多様な候補者が得られるのは完全自動モードのときだとジャーベットソンは考えている。このモードでは、顧客に数人の候補者を評価してもらうことでその好みを割り出し、その後はフェッチャーのシステムが有力候補者のリストを作成して候補者に直接連絡を取る。
ジャーベットソンは「自分自身をプロセスから除外するのはとても重要なステップだ。自分で直接候補者を選ばなければ、誰もが持つ潜在的な偏見を持ち込まないことになる」と述べた。
企業が多様性改善に苦しんでいる理由の一つは、従来型の選考方法そのものに偏見があることが多いからだ。「その候補者はトップ20の大学の出身？ 一流企業から来た人か？ こうした基準で選んだ人材は、最初から多様性に欠くかもしれない」とジャーベットソン。フェッチャーでは、AIプログラムが特定した非従来型の基準を用いることで、見過ごされる可能性があった候補者を見つけることができる。
多様性を増やしたい場合、候補者リストを作る際に広い基準で人材を選ぶことに大きな効果があることが、研究からも確認されている。コロラド大学の調査では、候補者の中に女性、あるいは少数派の人が1人しかいない場合、その人が内定を得る確率はゼロに近いことが示された。女性や少数派の人が1人しかいない場合、基準から離れ過ぎていると思われることが理由だ。しかし2人目の女性や少数派の人を候補者の中に加えた場合、最終段階まで進む確率は劇的に上がる。
では、フェッチャーのモデルがアマゾンと同じ失敗をしないのはなぜだろう？ ジャーベットソンは、意図しない影響を最小限に抑えるため事前の備えが必要であることを示唆している。フェッチャーでは、モデルをシンプルに維持し、モデルとその結果に訓練を受けた人の目を通し、採用基準に性差別がないことや、多様な候補者が選び出されていることを確認しているという。
