顔認証テクノロジーの過剰な導入は、人種的偏見を高める可能性がある。いくつかの調査で人工知能（AI）による認証では、黒人の顔を判別する際に他の人種よりもエラーの発生率が高いことが分かっている。
マイクロソフトのブラッド・スミス社長兼最高法務責任者（CLO）は以前から、顔認証テクノロジーが偏見を助長する可能性を指摘しており、何らかの法的規制が必要だと述べていた。12月6日、スミスはマイクロソフトの公式サイトで、このテクノロジーが差別を助長してはならないと述べた。
顔認証テクノロジーの誤った利用に警鐘を鳴らすのはマイクロソフトだけではない。アメリカ自由人権協会（ACLU）は、アマゾンが同社のツール「Rekognition」を全米の小売店らに対し、顧客らを監視する手段として提供していることを非難した。一方で、民主党議員らの間から、警察によるこのツールの濫用を防ぐべきだとの声もあがっている。
米国の警察は以前から、黒人に対する対応で問題を抱えてきた。アフリカ系アメリカ人が投獄される件数は、他の人種の5倍にのぼっている。黒人が運転する車が警察に停車を命じられた際に、違反切符を切られる確率も他の人種より20％高い。Rekognitionのようなツールが、この格差をさらに拡大することも十分に考えられる。
マイクロソフトやアマゾン、グーグルなどのテック企業大手の社員らも、企業がAIサービスを政府に販売することに反対の声を高めている。
顔認証テクノロジーによる偏見の助長や、エラーの発生を防ぐうえで有効な対策の一つが、より多様なライブラリーを活用してアルゴリズムの訓練を行うことだ。顔認証のスタートアップ企業「Kairo」のCEOであるBrian Brackeenは次のように述べている。
「顔認証システムにおけるダイバーシティを高める上で重要なのは、アルゴリズムのトレーニングの際に、現実世界と同じ多様性を持つカタログを与えることだ。システムは自らが学習したカタログに基づいて、判断を下している」
