世界経済フォーラムの2025年のデータによると、10社中9社近くの企業が従業員の採用に人工知能（AI）ツールを導入している。同時に、AIツールが人種、性別、年齢、障害などの特性に基づき、トレーニング素材から人間のバイアスを模倣するリスクを示す証拠が増えつつある。「ゴミを入れれば、ゴミが出てくる（Garbage in, Garbage out）」と言われるが、新たな研究は、それが氷山の一角にすぎない可能性を示している。
プリンストン大学とシカゴ大学の研究者らによると、AIツールは特定の個人グループに対して、事実に基づかない全く新しいバイアスを作り出すこともあるという。機械学習の国際会議「ICML 2026」で発表された新たな研究では、中立的なデータでトレーニングされた場合でも、AIツールは採用タスクの過程でグループ単位のバイアスを形成することが明らかになった。
さらに悪いことに、AIツールは同じ採用タスクを行う人間よりも新たなバイアスを形成する傾向が強かった。そして、より新しいAI技術ほど古いバージョンよりも成績が悪かった。
研究者らは、この管理された研究における潜在的な限界を認めているものの、今回の発見は採用判断にAIを用いる雇用主に警鐘を鳴らすものだ。AIツールは「人間の社会的バイアスを受動的に反映する鏡であるだけでなく、自らの経験から能動的に新たなバイアスを作り出すことができる」と研究者らは指摘し、「こうしたシステムが時間の経過とともに社会をどのように形作っていくのかという、差し迫った問いを突きつけている」と述べている。
2026年の研究が明かす、採用タスク中にバイアスを「発明」するAIの能力
これまでの研究は、AIツールがトレーニング対象の情報に組み込まれているバイアスを模倣するさまざまな方法を特定してきた。
例えば、2025年の研究によると、実際の労働市場における男女の年齢構成はほぼ同等であるにもかかわらず、Googleの画像検索では事実上すべての職業において、女性が男性よりも若く描写されることが判明した。ChatGPTはインターネットのデータでトレーニングされているため、この年齢にまつわるジェンダーバイアスを取り込んでしまう。さまざまな職種の履歴書を作成するよう求められた際、ChatGPTは一貫して女性候補者を若く、その職務に対する資質が低いように描写した。
今回の研究で研究者らは、バイアスのないデータでAIツールをトレーニングすることで、AIによる採用バイアスを排除できるかどうかを検証しようとした。AIは、特定のグループに対してステレオタイプを形成するという人間の傾向を回避できるのだろうか。
この疑問に答えるため、研究者らは人間におけるステレオタイプ形成を調査するための手法を用いた。この手法では、参加者は医師、弁護士、管理人、チャイルドケアの助手など、さまざまな職種の候補者プロフィールから一連の採用決定を行うよう求められる。各候補者は、「Tufa（ツファ）」「Aima（アイマ）」「Reku（レク）」「Weki（ウェキ）」という架空のデモグラフィックグループのメンバーとして識別される。
参加者はそれぞれの職種について各グループの候補者を検討し、採用する1名を選ぶ。その後、選ばれた候補者が職務で成功したかどうかが参加者に伝えられ、これが次の採用決定の参考にされる。このプロセスが40件の採用にわたって繰り返される。参加者は、採用の成功に応じた報酬によって慎重な判断を行う動機づけがなされる。
参加者には知らされていないが、この研究は各グループのメンバー間に差が生じないように設計されている。どのデモグラフィックグループの候補者も、各職種で成功する確率は同一である。
しかし、人間の参加者は、採用データの中に存在しないパターンを日常的に見出してしまう。これらのパターンは瞬く間にステレオタイプへとつながり、結果として異なるグループのメンバーを異なる役割に割り当てることになる。
例えば、最初の医師のポジションにTufaを採用し、その候補者が成功したと告げられると、参加者は「すべてのTufa（そしてTufaだけ）が医師に適している」と仮定し始める。逆に、最初のチャイルドケアのポジションにAimaを採用し、その候補者が不成功だったと告げられると、参加者は「すべてのAimaは別の仕事に就くべきだ」と仮定し始める。
このプロセスの過程で、人間の参加者は各グループに共通の特徴を割り当て始める。例えば、「Tufaは温厚である」「Aimaは信用できない」などと信じ始めるのだ。これらの思い込みには、データ上の事実としての根拠は一切存在しない。それでも、こうした想像上のステレオタイプは極端に階層化された職種配分を招き、人間のバイアスがいかにして形成され、強化されるかを浮き彫りにしている。
今回の研究で研究者らが知りたかったのは、AIツールがこの採用タスクにおいて、人間よりも優れたパフォーマンスを示すかどうかだった。AIは、人間が抱くような根拠のないバイアスの形成を回避できるのだろうか。手短に言えば、AIのパフォーマンスはさらに悪かった。
研究者らは、ChatGPT、Claude、Geminiなど、さまざまなAIツールに同じタスクを実行させた。その結果、AIツールは時間の経過とともに、人間よりもさらに高い確率で特定のグループを特定の職種カテゴリに割り当てることがわかった。より新しく大規模なAIモデルは、古いモデルよりもさらに強く、異なるグループのメンバーをすばやく別々の職種区分に押し込める傾向を示した。
採用タスクの開始前、AIモデルがこれらのデモグラフィックグループについてステレオタイプを持っていることはあり得なかった。これらは架空のグループだったからだ。しかし、AIツールはそれぞれの採用決定の結果に基づく推測から、新たなステレオタイプを生成した。「バイアスはトレーニングデータからではなく、それぞれの実行プロセスから学習される」と研究者らは結論づけた。問題は、各実行プロセスの結果がランダムであったという点だ。
この研究は、AIツールが自らの経験から誤った過度な一般化を行い、根拠のない新しいバイアスを作り出す能力を持っていることを明らかにしている。AIツールは意思決定の結果から学ぼうと過剰に努力するあまり、結果がランダムである場合でも、最終的に不正確な信念を抱くことになってしまう。このプロセスは人間のステレオタイプ形成に似ている。しかし、AIツールは人間よりもさらに厳格に、採用決定において自身のバイアスを適用した。
AI技術が発展するにつれ、この問題はさらに悪化しているように見える。より強力な推論アルゴリズムを組み込むことで、新しいAIモデルは、古いバージョンよりもさらに深刻な形で、架空のデモグラフィックグループのメンバーを異なる職種カテゴリへと分類した。
AIツールは「限られたデータから一般化を試みることに非常に熱心だ」と、プリンストン大学の博士課程に在籍し、この研究の共同執筆者であるライアン・リューは、2026年7月の『MITテクノロジーレビュー』のインタビューで語っている。「文字通り、それが彼らの最適化されている目的の多くを占めている」。しかし、AIツールはあまりにも早い段階で一つの仮説に落ち着いてしまうことがあり、「そこから物事がおかしくなり始める傾向がある」とリューは指摘する。
雇用主がAIバイアス研究から学べること
2026年のこの研究は、AIツールがトレーニング素材からバイアスを取り込むだけでなく、独自の新たなバイアスを「発明」する能力を備えている可能性があることを明らかにし、新たな境地を開いた。
この能力が実際の採用決定にどの程度影響を及ぼすかは、今後の検証課題である。この研究は、架空のグループと管理されたデータのランダム化を用いて行われた。また、研究内のAIツールは、各採用決定の成否に関する情報を即座に受け取っていた。実際の従業員採用でAIツールが使われる場合、多くは候補者の初期スクリーニングや評価であり、直接的なフィードバックループは存在しない。
「実験のモデルは採用に成功したかどうかを即座に学習したが、現実の世界で履歴書をスクリーニングするモデルが即座に成績表を受け取ることはない」と、AI担当記者であるミシェル・キムは、2026年7月20日付の『MITテクノロジーレビュー』の記事で述べている。「企業が、新しく採用した人材が優秀であるかどうかを判断するには、長い時間がかかる。そもそも判断できないこともある。しかし、フィードバックが少しずつ蓄積されていくと、モデルは将来の採用活動において、それらの結果を過度に読み取ってしまう可能性がある」
研究の限界はあるものの、今回の発見は採用プロセスにAIツールを導入している雇用主にとって警鐘となるはずだ。AIバイアスに対する理解が進化し続ける中、本研究は、特に個人のキャリアが左右される場面において、人間による継続的な監視がいかに重要であるかを示唆している。
また、この研究はAIツールに対する適切な指示（プロンプト）を作成することの重要性も浮き彫りにしている。研究者らは、AIツールによる採用バイアスの発明と、それに伴う職種分離を軽減するためのさまざまな戦術をテストした。最も効果的だった戦略は、明確に「多様性の目標」を追加することだった。多くのAIツールは、報酬が採用の成功だけでなく、各職種カテゴリで達成されたデモグラフィックの多様性にも基づいて支払われると指示された際、架空のバイアスを大幅に減少させた。
「モデルがタスクを完了するための指示に従う能力を高めるにつれ、モデルが従う目標も、望ましい社会的成果を達成するために進化しなければならない」と研究者らは述べている。
学術誌『Human Resource Management Journal』の2026年号に掲載された先行の研究でも、同様の介入が障害に関する採用バイアスを効果的に減少させることが確認されている。
その研究では、人事専門職238人が、論理的推論能力を必要とする職務について、資格や身体障害の有無が異なる候補者集団から採用判断を行った。人事専門職には、採用判断を支援するため、OpenAIのChatGPTバージョン4で作成された対話型AIツールが提供された。
一方の人事専門職グループでは、AI支援ツールに単に「強い論理的推論能力を必要とする業務に、どの候補者がより適しているかを雇用主が判断するのを助ける」と指示した。もう一方の人事専門職グループでは、AI支援ツールに対し、多様性と包摂を判断要素として考慮し、「身体障害は候補者の論理的推論能力に影響しないことを認識する」ようにも指示した。
研究では、包摂に関する指示を与えられたAIツールを使用した人事専門職では、障害に関連する採用バイアスが大幅に少ないことが判明した。包摂重視のAIツールを使用した人事専門職は、標準的なAIツールを使用した人事専門職に比べ、障害のある候補者を採用する可能性がほぼ2倍高かった。
「包摂プロンプトは、能力に基づく評価を促し、ステレオタイプへの依存を減らした」と、この研究の著者であり、マッコーリー・ビジネススクール教授のマイルズ・M・ヤンは述べた。「包摂に焦点を当てたAIは、評価者の関心を抽象的なカテゴリから個人の具体的な可能性と実証されたスキルへと向けることで、人口統計学的バイアスに対処するよう微調整できる」
