経済・社会

2018.12.31 08:00

マイクロソフトが「顔認証の規制」を呼びかけている理由

andriano.cz / Shutterstock.com

マイクロソフトは各国の政府に対し、顔認証テクノロジーの利用についての適度な規制を設けるよう呼びかけている。

顔認証テクノロジーの過剰な導入は、人種的偏見を高める可能性がある。いくつかの調査で人工知能(AI)による認証では、黒人の顔を判別する際に他の人種よりもエラーの発生率が高いことが分かっている。

マイクロソフトのブラッド・スミス社長兼最高法務責任者(CLO)は以前から、顔認証テクノロジーが偏見を助長する可能性を指摘しており、何らかの法的規制が必要だと述べていた。12月6日、スミスはマイクロソフトの公式サイトで、このテクノロジーが差別を助長してはならないと述べた。

顔認証テクノロジーの誤った利用に警鐘を鳴らすのはマイクロソフトだけではない。アメリカ自由人権協会(ACLU)は、アマゾンが同社のツール「Rekognition」を全米の小売店らに対し、顧客らを監視する手段として提供していることを非難した。一方で、民主党議員らの間から、警察によるこのツールの濫用を防ぐべきだとの声もあがっている。

米国の警察は以前から、黒人に対する対応で問題を抱えてきた。アフリカ系アメリカ人が投獄される件数は、他の人種の5倍にのぼっている。黒人が運転する車が警察に停車を命じられた際に、違反切符を切られる確率も他の人種より20%高い。Rekognitionのようなツールが、この格差をさらに拡大することも十分に考えられる。

マイクロソフトやアマゾン、グーグルなどのテック企業大手の社員らも、企業がAIサービスを政府に販売することに反対の声を高めている。

顔認証テクノロジーによる偏見の助長や、エラーの発生を防ぐうえで有効な対策の一つが、より多様なライブラリーを活用してアルゴリズムの訓練を行うことだ。顔認証のスタートアップ企業「Kairo」のCEOであるBrian Brackeenは次のように述べている。

「顔認証システムにおけるダイバーシティを高める上で重要なのは、アルゴリズムのトレーニングの際に、現実世界と同じ多様性を持つカタログを与えることだ。システムは自らが学習したカタログに基づいて、判断を下している」

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事