裁判官とAI、どちらの判断が正しいか。「被告40万人の釈放」が出した答え

Getty Images


「釈放された被告人」40万人が証明したこと


この問いへの答えを探るために、ハーバード大学の経済学者、3人のコンピューター科学者、シカゴ大学の保釈の専門家らが行なった研究について見てみよう。説明を簡単にしたいので、経済学者のセンディール・ムライナサンの名前を拝借し、この研究グループをムライナサンと呼ぶことにする。ムライナサンはニューヨーク市を調査の場に設定し、2008年から2013年の間に市で行なわれた罪状認否手続きの審問に参加した55万4689人の被告人の記録を集めた。ニューヨーク市の裁判官たちは、そのうち40万人強を釈放した。

null
Getty Images

どっちの「保釈」が正しかったか?


ムライナサンは次に人工知能(AI)システムを構築し、罪状認否手続きの中で検察官が裁判官に与えた情報を入力した(被告人の年齢と前科)。そしてAIにたいし、55万4689件の事件の被告人のうち釈放するべき40万人のリストを独自に作成するよう指示した。まさに、人間と機械の知恵比べだった。どちらが、より優れた決定を下すことができたのか? 保釈中の再犯率がより低く、裁判日の出頭率がより高かったのは、どちらのリストの犯罪者だったのか? 結果には大きな差があった。コンピューターが弾きだしたリストの40万人は、ニューヨーク市の裁判官によって釈放された40万人よりも、裁判を待つ間の犯罪率が25パーセントも低かった。25パーセント!この知恵比べでは、機械が人間に圧勝した。

ムライナサンの機械がどれほど優れているか、その一例を挙げたい。コンピューターでは、全被告人のうち1パーセントが「高リスク」と判定された。つまり、裁判前に保釈するべきではないとコンピューターが考えた人々だ。機械の計算では、高リスク集団のゆうに半数以上の人々が、釈放された場合には別の罪を犯すと予想されていた。

ところが、人間の裁判官が同じ悪者たちのグループを見ても、危険人物だと特定されることはほとんどなかった。実際、裁判官たちはそのうち48.5パーセントを保釈した! ムライナサンの報告書のとりわけ衝撃的な一節の中では、「アルゴリズムによって高リスクと判断された被告人の多くは、人間の裁判官によってあたかも低リスクのように扱われる」と結論づけられていた。「この調査によって、裁判官は身柄拘束のための高い基準を設定しているのではなく、単に間違ったランクづけによって被告人の保釈の是非を決めていることがわかる……彼らが保釈すべきかどうかを最後まで悩んだ被告人たちは、コンピューターによって予測されたリスク分布のあらゆるところに存在する人々だった」。言い換えれば、裁判官による保釈の決定はどこまでもでたらめだということだ。

この結果を不可解だと感じる人も多いはずだ。保釈決定を下すとき、裁判官は3つの情報を参照することができる。まず、被告人の情報──年齢、前科、前回の仮釈放時の経緯、住所、仕事。次に、地方検事と被告人の弁護士の証言。法廷では、この2人からあらゆる情報が裁判官に伝えられる。そして、裁判官たちは“自らの眼“をとおして生の証拠を手に入れることができる。眼の前のこの男について、どう感じるか?
次ページ > 人の顔を見ると間違う?

.

ForbesBrandVoice

人気記事