女性はポーシャ・ウッドラフ（32）。AIを使った顔認識の運用で過失があったとして、デトロイト市警察の担当刑事ラショーンティア・オリバーを名指し、ミシガン州東部地区の連邦地裁に3日に訴訟を起こした。
訴状によると、オリバーは監視カメラに映った強盗犯の男女のうち、女の身元を割り出すため、AI顔認識技術を使用。結果、女の顔が、ウッドラフの8年前の写真と一致する結果になった。
オリバーがこの写真を含む何人かの顔写真を被害者に見せたところ、被害者もウッドラフを容疑者と誤認した。オリバーはウッドラフのもっと新しい身分証写真を入手していたにもかかわらず、これらの照合で使っていなかった。
ウッドラフはその結果、2月に逮捕された。当時、ウッドラフは妊娠中で臨月に近かった。訴状によると、ミシガン州ウェイ郡検事局は翌月に「証拠不十分」として訴追を取り下げている。
繰り返される黒人の誤認逮捕
ウッドラフは警察に連行された時の様子を米紙ニューヨーク・タイムズに語っている。デトロイト市内の自宅で2人の娘を学校に送る準備をしていたところ、突然、ドアの前に警官6人が現れた。「正直、冗談でしょと思った」という。そして自分が拘束されるとわかり、6歳と12歳の子どもたちに、奥へ行って、婚約者に「ママは拘置所に行く」と伝えて、と言い残したという。
ウッドラフはのちに、2015年に無免許運転で逮捕された際に撮影された写真を警官が使用していたことを知った。警察はそれよりも新しい、現在の免許証の写真も持っていたが、AIの顔認識による結果と対照するのに使用しなかった。
ウッドラフはデトロイト拘置所で1日過ごしたあと医療施設に移され、そこで脱水症状による心拍数低下と診断された。また、拘置所に入れられていた間、ストレスのため通常よりも早く陣痛が来たという。
警察によるAI顔認識システムの欠陥が明らかになったのはこれが初めてではない。とくにデトロイト市警察はこの技術によって2019〜20年に黒人男性3人を誤認逮捕しており、うち1人は拘置所に入れられている。
今回の一件は、AIのアルゴリズムにはバイアスがあり、警察による人種差別を助長しているという問題に、あらためて目を向けさせるものになった。
NBCテレビによると、デトロイト市警察のジェームズ・ホワイト本部長は声明で、訴訟で主張されていることは「非常に懸念される」と表明。「本件を非常に深刻に受け止めているが、さらに捜査を進める必要があるため現時点ではこれ以上コメントできない」としている。
米議会では2022年9月、AIの顔認識アルゴリズムの透明性を規制する初の試みとして「2022年顔認識法」案が提出されている。
（forbes.com 原文）
