3社のうち最初に動いたのはIBM。8日、顔認識ビジネスから撤退する方針を明らかにした。続いてアマゾンも、自社の顔認識技術「レコグニッション(Rekognition)」について、警察への提供を1年間停止すると表明。さらにマイクロソフトも、法律が整備されるまで顔認識技術を警察に販売しない考えを示した。
ニュースサイト「カルチャーバンクス(CultureBanx)」も最近報じているように、顔認識ソフトウェアでは開発に用いられるデータセットが多様性に欠けていることから、とくに女性や「有色」人種で誤認率が高くなる。そのため、以前から顔認識技術の妥当性をめぐっては批判が多く、全面的な禁止を訴える声もあった。
一方で、人工知能(AI)の活用分野の一つとして顔認識市場も成長が著しい。調査会社マーケット・リサーチ・フューチャーのリポートによると、顔認識の世界の市場規模は2016年の30億4000万ドル(約3300億円)から2022年には80億ドル(約8600億円)へと拡大し、年平均成長率は約20%に達すると見込まれている。
アマゾンやマイクロソフトが自社の顔認識プラットフォームを完全に終わらせるのには後ろ向きなのも、もしかするとこうした有望市場を失いたくないからなのかもしれない。
IBMの場合は、顔認識事業はすでに規模が最小限に縮小されていた。AP通信はIBMの事業撤退の決定について「利益には影響しそうにない」と伝えている。同社の技術では、性別の誤認率が肌の色の浅い女性では最大7%、肌の色の濃い男性では最大12%、肌の色の濃い女性では最大35%を記録していた。
IBMはその一方で、やはり人種バイアスにつながるおそれのある犯罪予測AIについては、警察に引き続き提供していくようだ。
アマゾンは、「有色」人種の誤認率が高くなる点を知りながら、かなり前から顔認識プログラムを販売してきた。10日の声明では「当社はこれまで、政府は顔認識技術の倫理的な使用に関する規制を強化すべきだと訴えてきた」としている。マイクロソフトは以前、各国の政府に顔認識技術の仕様を規制するように求めていた。
とはいえ、ワシントン・ポストなども指摘している通り、アマゾンとマイクロソフトがこの技術の提供を見合わせるのは警察だけだ。残念ながら、移民税関捜査局(ICE)や国防総省といった、顔認識技術を常に使っている連邦機関とは契約するのかについては、両社とも言及していない。