顔認識技術は便利な半面、弊害も多い。たとえば、市販のAI顔認識システムでは女性や黒人の誤認率が高くなる傾向にある。マサチューセッツ工科大学（MIT）の研究によると、あるソフトウェアでは肌の色の薄い男性の誤認率が0.8％だったのに対し、肌の色の濃い女性では34.7％に達したという。
マイクロソフトはこのほど、AIに関する自社の倫理規定を2年ぶりに改定。それに基づいて自社のAI製品に対する管理を強化する方針を打ち出した。顔認識技術については、個人のプライバシーを侵害したり、差別や監視のツールに使われたりしないようにしていきたい考えだ。
マイクロソフトはかねて顔認識技術の適切な規制を訴えており、カルチャーバンクス（編集注、筆者の経営するメディア会社）の報道によると、これまで世界各国の政府などにもこの技術の利用を規制するよう働きかけてきた。
同社自体も2019年、1000万点を超える顔画像データベース「MSセレブ」をひっそりと削除した。また2018年に米証券取引委員会（SEC）に提出した年次報告書では、「AIアルゴリズムには欠陥があるかもしれない。データセットは不十分だったり、偏向した情報が含まれたりするおそれがある」と言及している。
企業のなかには、マイクロソフトの顔認識技術を頼りにしているところもある。一例を挙げると、ウーバーのアプリでは、ドライバーの顔が登録されているアカウントのものと一致しているかを確認するために、マイクロソフトの技術を用いている。これなどは顔認識ツールの有意義な使い方と言えるのではないか。
AIは基本的に、「教えられたこと」を学ぶシステムであるという点を忘れてはならない。顔認識技術は有色人種に偏って悪影響を及ぼし、すでに不平等に直面している集団の権利をさらに損なう形になっている。マイクロソフトのような企業がその技術に制限をかけたことは、AIに組み込まれた有害な性質について多くを物語っている。
問題は、業界全体がそれに続くかどうかだ。
