David NiccoliniはStatCruxの創業者であり、6大陸にわたる約30年の経験を持つセキュリティおよびリスク低減の専門家である。
私たちは「警察活動の多元化」を目の当たりにしている。民間企業が、デジタル監視から身体拘束に至るまで、国家の任務の一部を吸収していくという変化である。
私は企業のリスクマネジメントに約30年携わり、活動の舞台は6大陸に及んできた。常に民間セクターに身を置きながらも、米軍や情報コミュニティ、さらには連邦および州の法執行機関と広範に関わってきた。この潮流を間近で見て、良い面も悪い面も、そして残念ながら醜い面も目にしてきた。
官民連携がスピードと鋭い技術的優位性をもたらすことは否定できない。実際、私の前回の記事では、この潮流がいかにしてすべての人の安全を高め得るか、その方法を提言した。
それでも、対処すべき落とし穴がある。効率は、公正の危険な代替指標になり得る。捜査、判断、拘束の権限を利潤追求の主体へ移すことは、社会契約を断裂させる可能性をはらむ。国家の優先事項が企業の優先事項と衝突するとき、人間的な犠牲が生じ得る。
官民連携のリスク
ブラックボックス化する捜査
重大なリスクの1つは、テクノロジーへの無批判な追従である。過重な負担を抱える法執行機関は、企業のインテリジェンスを「捜査すべき手がかり」ではなく、「裁判にそのまま使える証拠」として扱ってしまうかもしれない。
例えば、ヒューストンのSunglass Hutでの武装強盗事件（2022年）で、同小売業者の顔認識ソフトウェアが誤って人物を特定したことで逮捕されたHarvey Murphy Jr.の事例がある。犯行時、Murphyはカリフォルニア州サクラメントにいた。拘束中のMurphyは、この壊滅的な誤りが明るみに出て起訴が取り下げられるまでの間に、性的暴行と暴行を受けたと主張している。
企業のロスプリベンション（損失防止）が、独立した専門的な捜査活動に優先するようになれば、市民的自由はあっという間に失われかねないと私は考える。
知的財産とデュープロセスの均衡
透明性の欠如は法廷にも及んでいる。ウィスコンシン州のある事件では、裁判官が独自のアルゴリズムによるリスクスコアを用い、被告人の量刑判断を補助した。弁護側は、企業が数理モデルやスコア算出方法を正確に開示していないことについて、企業秘密を理由にしているとして、アルゴリズムの使用に異議を唱えた。最終的に、ウィスコンシン州最高裁は、そのアルゴリズム使用の維持を支持した。
米国憲法修正第6条には「対質条項」が含まれており、これは自分に不利な証言をする証人と向き合い、反対尋問する権利である。では「証人」がアルゴリズムだったらどうなるのか。公正には透明性が不可欠である。
インセンティブの不整合
私の見立てでは、インセンティブの不整合が最も極端に現れるのは、民営化された受刑者移送である。New York Timesによれば、民間の移送会社は薄利で運営され、通常は「受刑者1人あたり・1マイルあたり」の料金で支払われるという。
ここから危険なインセンティブ構造が生まれ得る。スピードを最大化し、停車を最小化するのだ。New York Timesの記事は、警備員が被疑者の医療ケアを拒んだり、トイレ休憩や水の提供を制限したり、疲労によって事故を起こしたりしたとの報告があると説明している。
インセンティブの不整合の別の例は、ペンシルベニア州での少年拘禁の民営化に見られる。2003年から2008年にかけて、Mark Ciavarella判事とMichael Conahan判事は、営利目的の民間少年施設の建設者兼共同所有者から、違法な支払いとして約280万ドルを受け取った。見返りとして両名は「多数の子どもが施設に送られることを保証した」ゼロトレランス政策を推し進めたと、Associated Pressが報じた。
「この仕組みが発覚した後、ペンシルベニア州最高裁は、2300人を超える子どもが関与した約4000件の少年有罪判決の一部を破棄した」とAPは伝えている。複数の被害者は心理的外傷と将来の頓挫を経験したと述べた。悲劇的なことに、影響を受けた若者の多くが自死したケースもある。2022年、連邦判事は、失墜した両裁判官に対し、被害者へ2億ドル超の損害賠償を支払うよう命じ、APによれば、彼らを「史上まれに見る規模のスキャンダルが生んだ悲劇的な人的犠牲」と評した。
ビジネスリーダーのためのガードレール
官民連携、すなわち「安全と治安の共同生産」は今後も続くと私は考える。国家だけでは現代世界の複雑性を乗り越えられない。
では、ビジネスリーダーとして、この進化する現実にどう向き合うべきか。公的部門や法執行機関と接点を持つ場面に限らず、日々の事業運営においてもである。私の推奨は次のとおりだ。
透明性の観点からテックスタックを監査する。自社が捜査、リスクスコアリング、コンプライアンスにアルゴリズムを用いているなら、潜在的バイアスについて社内レビューを求めるべきだ。ブラックボックス化の可能性を防ぐため、出力に検証可能な人間の推論を含める「説明可能なAI（Explainable AI）」のプロトコルを導入する。
データの来歴を求める。ビッグデータ提供者は、根拠となる情報源を明かさないまま、行動可能なインテリジェンスを提供することが少なくない。ベンダーに対し、データの系譜を明確に示すよう求め、特定・精査でき、透明性をもって共有できる状態を確保する。
人間的影響の計算をチームに訓練する。テクノロジーへの過度な依存は批判的思考を損なう。意思決定がもたらす人間的影響を分析に必ず組み込ませる、必須のトレーニングを展開する。
制度的変化を促す。生成AIは非常に速い勢いで私たち全員に迫っている。それは社会にとって全体として良いのか、それとも悪いのか。業界は、テクノロジーと官民連携を活用して、私たち全員をより安全で安心な状態にする方法を見定めるうえで、主導的役割を担い得る。
結論と次の一手
私はこのテーマに関する最初の2本の記事で、法執行と公共安全をめぐる公的セクターと民間セクターの接近が強まっていることを指摘しようとしてきた。また、その過程で生まれてきた良い面、悪い面、そして醜い面も記録してきた。私の考えでは、この進展を管理するために政府の立法や規制を待つべきではない。むしろ、民間のセキュリティおよびリスク分野が、自らの「文明化の瞬間」と向き合わなければならない。
