顔認識技術の使用は、特に有色人種の人々に不利益をもたらし、すでに不平等に直面しているグループの権利を奪うことになるが、フェイスブックはこの本質的な害を認めているようだ。
フェイスブックは、さまざまな批判を浴びているが、これに加えて、ユーザーや規制当局が顔認識テクノロジーの問題点を指摘していることを考えると、撤退は理にかなっている。フェイスブックでは、6億人以上のデイリーアクティブユーザーが顔認証技術の使用を選択していた。
調査によると、商用の人工知能システムは、女性や黒人に対するエラー率が高くなる傾向がある。顔認識システムの中には、明るい肌の男性を0.8％しか誤認しない一方で、暗い肌の女性を34.7％も誤認するものがある。このような欠陥のあるアルゴリズムが監視に使われると何が起きるだろう？
2018年のIDCのレポートでは、認識システムやAI（人工知能）システムに対する世界的な支出が、2022年に776億ドル（約8.6兆円）に達すると予想された。
フェイスブックは公式ブログで、「顔認識技術の社会における位置づけについては多くの懸念があり、規制当局はその使用を規定する明確なルールを決定するプロセスの途上にある」と述べた。
フェイスブックが顔認識分野に進出したのは2012年のことで、イスラエルのスタートアップ企業Face.comと、モバイルアプリの顔認識に特化した開発者チームを1億ドル以下で買収したのがその始まりとされる。その9年後の2021年、同社は生体情報プライバシー法に違反したとしてイリノイ州で起こされた集団訴訟で、6億5000万ドルを支払って和解した。フェイスブックは、ユーザーの同意を得ることなく、生体データを収集し保存していた。透明性は、同社が必ずしも重視しているものではない。
マイクロソフトやグーグルを含む他のハイテク企業も、AIがどれほど有害になり得るかについて警鐘を鳴らしている。AIはいまだにテクノロジーの中で最も議論の多い分野だが、ますます一般的になりつつある。
顔認証システムに依存しているフェイスブックのサービスは、間もなく削除される予定だ。ただし、フェイスブックは、本人確認のためのツールや、なりすましを防ぐためのツールとして、今後も顔認証技術の利用を検討するという。
