もし人工知能が学ぶデータにエラーや間違いがあれば、冤罪など重大な人権侵害を招く恐れもあるだろう。
ダラム警察側はその点について、「テスト期間中、Hartは（人間の判断を支える）アドバイザーの役割にとどまる」とし、あくまで最終的な判断は人間が行うものとしている。また、Hartの判断過程を追跡できる「対AI監査システム」も構築される計画だとした。
このような英警察の動きを見るに、犯罪捜査はテクノロジーによって別次元に移行しつつあるとも思えてくる。つまり、「犯罪を防止する」という局面から一歩進み、「犯罪を予測する」、もしくは「犯罪予備軍」を人工知能で割り出すという段階だ。
ちなみに、人工知能を開発する研究者や企業関係者たちは「AIの優れた能力のひとつは未来予知」と口を揃える。それらはあくまで機械の故障や企業経営などにおいて、という意味合いだが、はたして犯罪捜査という文脈ではどのような結果を生むのだろうか。
人工知能が犯罪捜査に用いられることになれば、そして人間がその判断を盲信するようになれば、「犯罪監視社会」ならぬ「犯罪予測社会」が到来するかもしれない。そしていずれ、映画「マイノリティ・リポート」や日本アニメ「PSYCHO-PASS」、もしくはジョージ・オーウェルの小説「1984」に登場するような「犯罪予知システム」が現実になるのではないかとも妄想したくなる。
「そんな心配は、専門知識に乏しい記者の杞憂に過ぎない」と言われてしまえばそれまでかもしれないが……世界各国では、似たようなAI研究・開発の実例が意外と少なくないとだけ補足しておきたい。
