業界ニュースを追っている人なら、人事プラットフォームのWorkdayに対して提起された訴訟をご存じかもしれない。AIが年齢、人種、障害といった要素に基づき、応募者を不公平に選別して排除しているという主張である。
Workdayはこの主張を否定し、採用の意思決定は人間が行っており、AIは求人票に記載された要件と候補者の資格を照合するためにのみ使われていると強調している。「（AIは）保護される特性を用いるように、あるいはそれを識別するように訓練されてはいない。さらに、この技術が保護対象の集団に害をもたらすという証拠もない」と、Workdayの広報担当者は以前Forbesに語っている。
この訴訟がどのように展開するかは、まだ見通せない。しかし結果がどうであれ、AIバイアスをめぐる問題が極めて現実的であることに変わりはない。急速に登場するテクノロジーへと外部委託する業務が増えるほど、リーダーは採用判断から顧客対応に至るまで、バイアスが及ぼし得る影響を考えるだけでなく、その結果に対する法的・倫理的責任が最終的に自らにあることを認識しなければならない。
AIバイアスとは何か
AIは、大規模データセット——時間をかけて生成されてきた既存情報の膨大な集合——で学習する。人間そのものと同様に、こうしたデータの一部には欠陥があり、それを生み出した人間や組織の偏見、盲点、そして構造的な不平等が反映されている。
デジタルトランスフォーメーション企業USTのチーフAIアーキテクトであるアドナン・マスードは、スタートアップ向けプラットフォームBuilt Inに次のように語っている。「AIバイアスはデータバイアスから生まれる。既存の不平等を映し出し、増幅する鏡だ。すでにある偏見を増幅してしまう」
これは、AIの振る舞いにきわめて現実的な影響を及ぼす。企業が何十年にもわたり、同等の能力を持つ女性より男性を昇進させてきたなら、そのパターンはデータに現れる。特定の候補者が年齢や学位の種類によって組織的に見送られてきたとしても、それもまたデータに含まれる。
人間のバイアスは特定して是正できる場合がある一方で、AIモデルについては必ずしも同じとは言えない。学習データに加え、開発者が無意識のうちにバイアスをアルゴリズムへ織り込んでしまうことがあり、いったん入り込むと除去はほぼ不可能になり得る。LexisNexis Risk SolutionsのグローバルCISO（最高情報セキュリティ責任者）であるフラビオ・ビジャヌストレは、ウォール・ストリート・ジャーナルにこう語っている。「間違いなく難しい。場合によっては不可能だ——最初からやり直し、適切な学習データと適切なアーキテクチャで正しく設計し直せるのでない限りは」
AIバイアスのリスク
AIバイアスは除去が難しいため、リーダーはこれを単なる技術的課題として扱い、エンジニアリングチームに丸投げしてはならない。運用の中で表面化する頃には、訴訟や規制当局による監査、あるいはニュースの見出しという形になっている可能性がある。
とりわけ採用に関しては、規制整備がすでに進んでいる。複数の州では、雇用におけるAIや自動化システムによる差別を対象とした法律がすでに制定されている。今年後半に施行予定のコロラド州のAI法は、高リスクAIシステムを導入する雇用主に対し、アルゴリズムによる差別から消費者を守るために合理的な注意を払うことを求める。ニューヨーク市ではすでに、AI採用ツールに対するバイアス監査が義務付けられている。
法的リスクに加え、評判の問題もある。応募者は語るし、従業員も語る。高齢の労働者や障害のある人を狙い撃ちするようなAI主導の不採用が続けば、いずれ表面化する可能性が高い。
これは重要である——人々は組織の価値観を気にかける。世界で約3万人の消費者を調査したアクセンチュアの研究によると、購買判断が企業リーダーの言葉、価値観、行動から影響を受けると答えた人は65%に上る。偏りのある可能性があるAIに過度に依存して得られる効率性がいかほどであれ、その代償は見合わない。
AIバイアスに先回りする
朗報もある。リーダーが抑制に向けて能動的に動く意思さえあれば、AIバイアスは管理可能だ。
最も重要なことは何か。導入前に厳しい問いを投げかけることである。ツールが業務に組み込まれてしまってから、どう作られたのか、どんなデータで学習したのかを知ろうとしても遅い。AIツールのデューデリジェンス（適正評価）は、重大なビジネス意思決定と同じように扱うべきだ——まさにそれと同義だからである。
特定のツールを使い始めた後も、定期的に点検することが必要だ。実運用では、テスト環境では起きなかった問題が表面化することがある。また、開始時点ではバランスが取れているように見えたデータセットでも、時間とともに陳腐化したり偏ったりする。AIは「設定したら終わり」の仕組みではない。定期的なレビューをプロセスに組み込むべきである。
一般原則として、人の人生や生計に影響する意思決定を、AIが人間の監督なしに下すべきではない。AIは効率化の強力な道具になり得るが、説明責任を犠牲にしてはならない。現実の人に現実の結果をもたらす判断であるなら、人間がプロセスに入っているべきだ。
AIシステムを評価する際に、多様な視点を会議の場に持ち込むことも有効である。審査する人々が同じ背景や経験、同じ参照枠を共有していないほうが、どのモデルにも存在し得る盲点は見つかりやすい。
AIバイアスのリスクは実在する。しかし十分なデューデリジェンスと注意を払えば管理できる。早い段階で正しく整え、継続的なモニタリングにコミットし、長期的に自社と事業を守るべきである。
