アマゾンが警察に「AI監視ツール」提供、人権協会が猛反発

Jonathan Weiss / Shutterstock.com

アマゾンが人工知能(AI)を用いた顔認識サービスを警察に提供していることに関し、非難の声があがっている。アメリカ自由人権協会(ACLU)は数カ月に及ぶ調査の結果、アマゾンの画像認識システム「Rekognition」が、米国の複数の捜査機関で利用されていることを突き止めた。

Rekognitionの分析サービスを利用すると、人物画像を即座にデータベースと照合することが可能だ。英国の放送局「Sky News」はこのサービスを、先日行なわれたロイヤルウェディングの場で出席者を識別するために利用した。

ACLUによると米国の警察はフロリダ州オーランドやオレゴン州のワシントン郡などでこのシステムを用いている。ワシントン郡ではRekognitionを用いたアプリが警官向けに作成され、30万人に及ぶ人物の顔のデータベースと照合しているという。

ワシントン郡保安官事務所のChris Adzimaはブログで、このシステムを用いて窃盗犯の割り出しに成功したと述べている。街頭の監視カメラの映像をクレジットカード窃盗犯の画像と照合した結果、人力では解析が難しい低解像度の画像でも、アマゾンのRekognitionは95%以上の精度で正しい結果を導き出したという。

アマゾン社員のRanju Dasは、ユーチューブで公開されたカンファレンス動画の中で、Rekognitionの仕組みを用いると、監視カメラの映像からそこに写った個人の属性や関心が分析可能で、特定の人物の居場所も追跡可能になると述べている。

ACLUが入手した書類によるとアマゾンはこのシステムを、初期コストを抑えつつ導入させようとしており、オーランドの警察署が約3万件の画像解析に支払った対価はわずか30.99ドルだったという。

ACLUのMatt Cagleはフォーブスの取材に対し、「これは非常に低コストで導入可能な大規模監視システムであり、重大な懸念を生じさせるものだ。アマゾンは同社の顧客中心主義を、監視カメラ市場にも適用しようとしている」と述べた。Cagleは今後、Rekognitionの仕組みが政治活動家や移民の監視に用いられる可能性があると指摘している。

ACLUは既にアマゾンCEOのジェフ・ベゾスに対し、警察に対するRekognitionシステムの販売を停止するよう要請を行なった。

アマゾン広報担当の反応は?

顔認識システムの倫理的問題に関しては以前から指摘されていた。世界最大の監視システム企業の一社であるイスラエルの「Verint」は、フェイスブックの写真データを顔認識に活用していることも明らかになっていた。

アマゾンの広報担当者はフォーブスの取材に対し、仮にこのシステムが乱用されているとみなされた場合、その顧客はRekognitionのサービスから排除されると述べた。

「アマゾンのRekognitionは非常に有用なツールとして活用可能だ。誘拐された人物の捜索や、迷子の発見などもできる。また、先日の英国のロイヤルウェディングでは出席者の身元確認にも用いられた」と担当者はEメールで回答を寄こした。

「乱用の可能性があるからといって、新たなテクノロジーにブレーキをかけることは、人類の暮らしに不利益をもたらす。例えばコンピューターを買いたい人が、“それが違法な目的に使われる可能性がある”という理由で、購入を差し止められる事態を想像してみてほしい。Rekognitionを利用する顧客に対してアマゾンは、他のAWSのサービスと同様に、法に沿った責任あるサービス運用を求めている」

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事