北米

2024.05.06 13:00

米警察の「調書の作成を自動化するAIツール」が批判される理由

アクソンのAIプロダクトマネージャーのノア・スピッツァー=ウィリアムズはフォーブスの取材に、人種やその他のバイアスを排除するために、GPT-4 TurboモデルをベースにしたAIを構築し、記録された事実に忠実な調書を生成するようにしたと語った。「最も単純な対抗策として、創造性の機能をオフにしています。その結果、幻覚や間違いの数が劇的に減りました。生成された内容は、すべて録音データの書き起こしにのみに基づくものになりました」

アクソンはまた、このAIツールが人種的偏見を持たないことを証明するための実験を行った。同社は、既存のデータの書き起こしを使用し、それぞれの容疑者の人種の記述だけを変更した。たとえば、「白人」の記述を「黒人」や「ラティーノ」に入れ替えてAIモデルに入力し、生成された書類を分析した。その結果、数百のサンプルを用いた実験で、「人種間で統計的に有意な違いは見られなかった」とスピッツァー=ウィリアムズは述べている。

警官の事務作業を軽減する

アクソンは、フォーブスに公開したデモで、AIモデルが警官のボディカメラの映像から捜査書類を生成するプロセスを明らかにした。そのビデオで警官は、公園で家族に嫌がらせをしている容疑者を見たと話すマーカスという名前の通行人に話を聞いている。マーカスは、その容疑者が緑色のジャケットを着ていて、「私と同じくらいの身長だった」と語る。

すると、AIはその状況を説明する短い文章を生成した。「マーカスは、この事件が約20分前に発生したもので、容疑者が最後に公園の滑り台の後ろに隠れているのを見たと述べています」とそのテキストの一部には書かれていた。AIモデルは、そのテキストに続いて、マーカスの身長など、警官が情報を追加すべき箇所を指摘した。

スピッツァー=ウィリアムズによれば、アクソンのAIツールには、ユーザーが行ったすべてのアクションをリストアップする監査証跡が付属しており、警察当局は書類がレビューされ、検証を受けたものであることを確認できる。また、すべてのデータはマイクロソフトのクラウドサーバーAzureに保存され、処理されると彼は付け加えた。
次ページ > アクソンの企業カルチャーへの批判

編集=上田裕資

タグ:

ForbesBrandVoice

人気記事