ビジネス

2022.07.10 06:30

マイクロソフト、顔認識ツールの利用制限

Getty Images

マイクロソフトは同社の顔認識ツールについて、一部の機能の利用を制限すると発表した。AI(人工知能)を活用する顔認識技術をめぐっては、人種に基づいて捜査対象を選別するレイシャル・プロファイリングなどに悪用されかねないとの懸念があり、企業側が率先して対応に動いた格好だ。

顔認識技術は便利な半面、弊害も多い。たとえば、市販のAI顔認識システムでは女性や黒人の誤認率が高くなる傾向にある。マサチューセッツ工科大学(MIT)の研究によると、あるソフトウェアでは肌の色の薄い男性の誤認率が0.8%だったのに対し、肌の色の濃い女性では34.7%に達したという。

マイクロソフトはこのほど、AIに関する自社の倫理規定を2年ぶりに改定。それに基づいて自社のAI製品に対する管理を強化する方針を打ち出した。顔認識技術については、個人のプライバシーを侵害したり、差別や監視のツールに使われたりしないようにしていきたい考えだ。

マイクロソフトはかねて顔認識技術の適切な規制を訴えており、カルチャーバンクス(編集注、筆者の経営するメディア会社)の報道によると、これまで世界各国の政府などにもこの技術の利用を規制するよう働きかけてきた。

同社自体も2019年、1000万点を超える顔画像データベース「MSセレブ」をひっそりと削除した。また2018年に米証券取引委員会(SEC)に提出した年次報告書では、「AIアルゴリズムには欠陥があるかもしれない。データセットは不十分だったり、偏向した情報が含まれたりするおそれがある」と言及している。

企業のなかには、マイクロソフトの顔認識技術を頼りにしているところもある。一例を挙げると、ウーバーのアプリでは、ドライバーの顔が登録されているアカウントのものと一致しているかを確認するために、マイクロソフトの技術を用いている。これなどは顔認識ツールの有意義な使い方と言えるのではないか。

AIは基本的に、「教えられたこと」を学ぶシステムであるという点を忘れてはならない。顔認識技術は有色人種に偏って悪影響を及ぼし、すでに不平等に直面している集団の権利をさらに損なう形になっている。マイクロソフトのような企業がその技術に制限をかけたことは、AIに組み込まれた有害な性質について多くを物語っている。

問題は、業界全体がそれに続くかどうかだ。

編集=江戸伸禎

ForbesBrandVoice

人気記事