米警察の「調書の作成を自動化するAIツール」が批判される理由

米国の警察は、犯罪パターンを分析する人工知能（AI）モデルから、容疑者を追跡するドローンまで、以前にも増してハイテクツールに頼るようになっている。そして今、OpenAIのGPT-4を搭載したAIが、警察官の地味な仕事の1つである調書や捜査書類の作成をこなすようになった。

警察が使用するスタンガン「テーザー銃」のメーカーで時価総額が220億ドル（約3兆Y5000億円）のAXON（アクソン）は4月22日、Draft One（ドラフト・ワン）と呼ばれるAIツールを発表した。このツールは、警官のボディカメラの映像や音声データからテキストを書き起こし、捜査書類の作成を自動化するものだ。

アクソンのリック・スミスCEOは、「警察は、正確さを確認するためにその文書を見直すことができる」とフォーブスに語った。このツールの初期テストを行ったコロラド州のフォートコリンズ警察は、捜査書類の作成時間を82％削減したとアクソンは主張している。「このツールを導入すれば、犯罪の取り締まりにあてる時間を25％増やすことが可能です」とスミスは述べている。

しかし、警察の調書は、裁判の証拠として使われる重要なもので、「幻覚」を見たり、でっち上げをしたり、人種的バイアスを示したりすることで知られるAIに頼ることは、危険だと主張する人々もいる。

電子フロンティア財団（EFF）の監視テクノロジー担当のデイブ・マースは、「AIの専門家でもなく、AIの問題点を認識する専門家でもない警察が、これらのシステムを使って、刑事司法制度に関わる何百万人もの人々に影響を与える可能性のある書類を作成することは、ある種の悪夢だ」と述べている。

アクソンのスミスCEOは、このツールに危険があることを認めた。「AIは、偏見を含む場合があると言われますが、それは事実です。特定の人々を差別的に扱うようなデータをAIの学習に用いると、人種差別を悪化させることにつながります。それが主要なリスクです」

「幻覚」や人種バイアスを排除できるか？

スミスによるとアクソンは、警官の発砲事件のような重大な事件の書類の作成には、このツールを使わないことを推奨しているという。彼によれば、このツールの初期の利用者の中には、軽犯罪に関する書類のみにドラフト・ワンを使用している者もいるが、他の顧客は、より重大な事件に関する報告書の作成にも用いているという。しかし、アクソンは個々の警察がどのようにツールを使うかをコントロールすることができない。