警察が顔認識技術を使って盗難にあった時計店の監視カメラの映像を分析した結果、Williamsの運転免許写真と一致したという。時計店の警備員もWilliamsが犯人の顔と一致すると証言したが、結果は誤りだった。原因は、ソフトウェアが2人の黒人を同一人物と誤認したことだった。
この結果、Williamsは家族の目の前で逮捕され、30時間も拘置された。
Williamsは、警察から監視カメラに映った人物が自分であるか聞かれ、「これは私ではない。黒人がみな同じに見えると思わないでほしい」と答えたという。警察は誤りに気が付き、告訴は取り下げられた。
Williamsはワシントン・ポストの論説に寄稿し、娘たちの前で拘束されたことの辛さについて語った。「私は、娘たちに逮捕された理由を説明するときが訪れるなど想像もしなかった。幼い娘たちに、コンピュータのミスを警察が無視したからパパは逮捕されたなんて説明しても理解してもらえるわけがない」と彼は述べている。
彼は自分の逮捕が家族に与える影響について心配していたが、娘たちはその後、人が逮捕されるゲームで遊ぶようになり、自分たちのものを父親が盗んだと責めるようになってしまったのだという。
これまでの研究から、顔認識技術はマイノリティーに対する差別を助長する可能性が指摘されている。2019年に、米政府の支援のもと米国立標準技術研究所が実施した調査では、顔認識技術が白人に比べて黒人やアジア系を最大100倍も誤認することが判明している。
デトロイトで用いられたツールは、ミシガン州警察がDataWorks Plusという企業から購入したものだ。同社に問い合わせをしたが、回答を得ることはできなかった。ミシガン州警察の広報担当者は、次のようにコメントしている。
「顔認識技術は、犯人の手掛かりを得るために使用しており、容疑者の身元特定には用いていない。捜査員による犯罪捜査を経て逮捕に至っている」
