現在、ほとんどの企業が採用プロセスでAIを活用しており、主に履歴書や面接のスクリーニング、候補者のランク付け、ワークフローの自動化に使用されている。調査によると、導入率は3分の2を大きく上回り、採用プロセス全体でAI対応ツールがほぼ普遍的に使用されていると報告する企業もある。重要なのは、AIが存在するかどうかではなく、経営層が雇用決定におけるAIの役割をどれだけ理解し、統制しているかである。
採用担当者が最終的な選考を行う一方で、AIは現在、どの候補者を採用担当者が目にするかを決定している。決定が人間によるレビューに到達する頃には、モデルはすでに応募者をフィルタリング、ランク付け、除外している。この上流での影響力は、候補者にはほとんど見えず、社内でも十分に理解されていないことが多いが、価値とリスクの両方が集中する場所である。
経営層がシステムを責任を持って使用するために、AI専門家になる必要はない。しかし、明確なガードレール、バイアスと信頼性に関する定期的な監査、人間による介入のための明確なポイントが必要である。そのようなガバナンスがなければ、AIシステムは静かに人材プールを狭め、リスク回避的なパターンを強化し、資格のある候補者を除外する可能性がある。そしてそれは、害が発生した後にのみ明らかになる──現在進行中のMobley対Workday, Inc.の集団訴訟が示すように。
経営層がAIに依存し続ける中、以下は彼らが答えられるべき5つの基本的なガバナンス上の質問である。
1. このモデルはどのようなデータで訓練されたのか？
訓練データはシステムのパラメータを形成する。主に過去の採用決定や従来の従業員プロファイルで訓練されたモデルは、たとえそれらのパターンが現在のビジネスニーズと一致しなくなっていても、過去のパターンを再現することが多い。
経営層は、データがいつ生成されたか、どの役割や地域を代表しているか、誰のキャリアが過剰に代表されているか、または欠落しているかを知るべきである。狭いまたは時代遅れのデータセットで訓練されたシステムは、現代の労働市場で一般的になっている、転用可能なスキル、キャリアの転換、または非線形の経路を認識できないことが多い。
訓練データが平易な言葉で説明できない場合、ガバナンスはすでに不十分である。
2. どの代理変数がスクリーニングとランク付けに影響を与えているか？
ほとんどの採用AIシステムは、保護された特性を直接使用しない。代わりに、在職期間、学歴、雇用の継続性、以前の雇用主、または役割の進行などの代理変数に依存している。
これらの代理変数は中立ではない。時間の経過とともに、介護休暇、国際経験、セクター変更、または分野への非伝統的な経路を含む、線形または中断のない経路をたどらないキャリアを持つ応募者を不利にする可能性がある。また、障壁に直面してきた人種的または社会経済的グループの候補者、および経験が狭いパターン期待に適合しない初期キャリアと後期キャリアの両方の応募者を不釣り合いに除外する可能性もある。
ここで、スキルベースのアプローチが不可欠になる。経営層は、実際の能力を反映する変数と、単に親しみやすさや過去の特権を近似する変数を区別できるべきである。資格、継続性、または血統を中心に最適化されたモデルは、効率的に見えるかもしれないが、スキルは転用可能だが容易にエンコードされにくい有能な人材を体系的にフィルタリングする可能性がある。
チェックされていない代理効果は、採用プロセスを通じて誰が継続するかを静かに再形成する。スキルベースのガバナンスには、グループ全体での結果の監視、選考基準が実際の職務要件と一致していることの検証、および労働力全体のセグメントがファネルから事実上消えていないことの確認が必要である。
3. 採用ファネル全体で結果はどのように監視されているか？
意図や設計に焦点を当てたバイアス監査は不十分である。重要なのは結果である。経営層として、採用システムが結果をどのように形成するかを説明できない場合、それらを擁護することはできない。
効果的な監視は、応募受付からスクリーニング、ランク付け、候補者リスト作成、最終選考まで、採用ファネル全体に及ぶ。経営層は、除外がどこで発生するか、および自動化が増加するにつれてパターンが変化するかどうかを確認できるべきである。特定のグループが早期に不釣り合いにスクリーニングされているか？除外率は、経験の閾値、雇用のギャップ、または資格フィルターの周辺で急増しているか？自動化が増加するにつれて、候補者リストはより均質になっているか？
継続的な監視は重要である。結果に対する継続的な可視性がなければ、特に急速な採用、レイオフ、または自動化拡大の期間中に、リスクが蓄積する可能性がある。
4. 人間の判断はどこで介入するか？
監視だけではガバナンスではない。最も強力な証拠は、自律的な修正ではなく、ハイブリッド監視を指している。
AIは大規模な応募者プールを効率的に絞り込むことができるが、人間はキャリアの転換や雇用の中断に対応するためにそれらを再開できなければならない。言い換えれば、除外が非線形の経験、ギャップ、または非伝統的なキャリアパスの周辺に集中する場合は常に、人間によるレビューが必要である。または、候補者のカテゴリ全体がファネルから消える場合も同様である。
5. システムはどのくらいの頻度で監査され、再調整されているか？
採用システムは安定した環境で動作しない。職務要件は進化し、労働市場は変化し、労働力の人口統計は変化する。
定期的な監査は、バイアスだけでなく、関連性も評価すべきである。システムは人間の介入を過度に引き起こしているか？現在のビジネスニーズに対してまだ最適化されているか？
再調整は期待されるべきであり、失敗として扱われるべきではない。米国国立標準技術研究所のAIリスク管理フレームワークなどのフレームワークは、システムのライフサイクル全体を通じて、継続的な監視、人間による監視、および説明責任を強調している。
共有された説明責任
実際には、AI主導の雇用結果に対する説明責任は、単一の機能によって所有されることはめったにない。責任は人事、法務、調達、ベンダー間で断片化されており、展開後のシステムの動作に対する明確な権限が残されていない。問題が表面化したとき、ガバナンスのギャップ──意図ではなく──がしばしば根本原因である。
それは経営層の問題になる。AIシステムが雇用決定を形成している中、賢明な経営層は、透明性、文書化された監視プロトコル、および実世界の結果の定期的なレビュー──単なるコンプライアンスの承認ではなく──を求めるだろう。そのフレームワークがなければ、組織はリスクを管理しているのではなく、蓄積しているのである。
