アマゾンはこれまで顔認証プログラムのRekognitionを、全米の警察署に納入してきた。ニュースメディアCultureBanxの調査で、商用の顔認証システムが女性や黒人に使われた場合、その他の人々に比べて高い確率で誤認識が起こることが判明している。
一部の顔認証システムが、白人男性の顔を認証する場合のエラー発生率は0.8%だが、黒人女性の場合のエラー発生率は34.7%にも及んでいたという。
政府が支援する研究所と、アマゾンが手を組むのはこれが初めてだ。NISTとの取り組みで、同社は偏見の問題に誠実に取り組む姿勢をアピールしようとしている。
「NISTとの取り組みにより、当社のテクノロジーを客観的立場から評価し、改善に結びつける。そして、学術的コミュニティからも信頼されるデータベースを作り上げていく」とアマゾンは声明で述べた。NISTは2010年以降に3件の顔認証ソフトに関するレポートを発表しており、2600万件以上の写真をライブラリに保管している。
RekognitionはアマゾンのクラウドサービスのAWS内のみで利用可能なツールであり、今回のテストでどのような評価を得るかは非常に興味深い。また、今後の潜在的顧客らがこのツールを利用する上で、外部の機関による査定は必須のことでもある。
顔認証システムの導入に関しては批判の声も高まる一方で、この分野の市場規模は急速に膨らんでいる。Market Research Futureのレポートで、世界の顔認証の市場規模は2016年の約30億ドルから、2022年には80億ドルに拡大するとされた。
この分野ではIBMも、顔認証の精度を高めダイバーシティを推進する目的で、Diversity in Facesと呼ばれるデータセットを公開した。同社は開発者らがジェンダーや皮膚の色に由来する、偏見を取り除く試みを促進しようとしている。
AI（人工知能）を活用した顔認証を広範囲に導入するにあたっては、学習の素材となるデータの多様性を高めることが重要だ。学習素材に、黒人やラテン系の人々の顔が十分含まれていない場合、認証結果は偏ったものになってしまう。
米国の警察は黒人コミュニティとの対話に問題を抱えている。アフリカ系アメリカ人は他の人種に比べ、5倍も投獄される率が高いとされている。また、黒人女性の投獄率は、白人女性の2倍に達しているとされている。
