カルビン・ヤダブ氏は、連続起業家であり、IREXの共同創業者兼CEOである。
公共安全は、政府の最も重要な責任の一つだ。しかし米国では、警察活動、緊急対応、学校の安全におけるAIへのアプローチは時代遅れで、しばしば逆効果となっている。これは、公的機関向けにAIシステムを構築し、テクノロジーベンダーが約束することと実際に提供するものを目の当たりにしている立場から言えることだ。
我々は全く同じベンダーから全く同じものを購入し、異なる結果を期待している。一方、発展途上国は、AIを戦略的な均衡装置として扱うため、より速く近代化を進めている。彼らはこの瞬間を、これまで欠けていたデジタルインフラを構築する機会と捉えているのだ。
前進するためには、何が間違っていたのかについて正直になる必要がある。
米国の調達システムはイノベーションのために構築されていない
都市の調達プロセスは、予測可能で低リスクな購入のために設計された。測定可能な成果、透明性、倫理的保護措置ではなく、馴染みと最低入札価格を重視するのだ。
長期にわたるRFP（提案依頼書）サイクルと硬直的な要件により、新しいAI企業が技術が進化する前に参加することはほぼ不可能になっている。多くの機関は、長年の独占を強化する時代遅れの事前資格リストに依然として依存している。一部のRFPには正確な部品番号さえ含まれており、競争が始まる前に優先ベンダーが選ばれていたことを明らかにしている。
都市管理者は、たとえそれらのツールが現実世界で人々を安全に保つためにほとんど役立たなくても、政治的に「安全」と感じられる購入を繰り返す。その結果、真にイノベーションを起こしている次世代AI企業は、海外のより機敏な市場に移行している。
調達システムが既存のものを保護するためだけに設計されている場合、イノベーションは起こせない。
より多くの技術を購入しても、より多くの安全は保証されない
学校での悲劇が起こるたびに、セキュリティ予算は拡大する。より多くのシステム、より多くのカメラ、より多くのライセンス。前提はシンプルだ。他の学区が購入しているなら、それは機能するに違いない。
しかし、何千もの学校に設置されたセキュリティツールは、学校での銃乱射事件を一度も防いでいない。ベンダーは導入数を売り込み、公的機関は行動の外観に対価を支払うが、真の尺度は防がれた被害であるべきだ。
政策立案者は公共安全AIが実際に何であるかを誤解している
大きな誤解は、AIが大規模監視と同義であるということだ。しかし、現代のシステムはパターン認識と運用上の洞察に焦点を当てている。例えば、混雑した空間で武器を識別したり、誰かが倒れたときに対応者により速く警告したりすることだ。
もう一つの誤解は、AIが人間の判断に取って代わるということだ。真実は、AIがノイズをフィルタリングすることで、専門家がプレッシャーの下でより明確な決定を下せるようにすることだ。
リーダーはまた、より多くのデータが自動的に成果を改善すると想定している。実際には、不十分なデータガバナンスがリスクを生み出す。質と関連性は量よりもはるかに重要だ。そして、偏ったシステムは正当な懸念事項だが、適切に監査されたAIは、人間が常に維持できるとは限らない透明性と一貫性を強制することで、偏見を減らすことができる。
最も有害な誤解は、ベンダーがシステムを機能させるためにすべてのコミュニティデータへのアクセスを必要とするという信念かもしれない。これは罠となり、依存関係を生み出し、都市を後で離れることができない独自のエコシステムに閉じ込める可能性がある。エンドユーザーは常に自分のデータを所有し、それがどのように使用されるかを決定すべきだ。
新興経済国はより速く近代化している
私はラテンアメリカ、中東、アジア全域のリーダーたちと時間を過ごしている。彼らのアプローチは目的の明確さに基づいている。まず問題を定義し、次に短期的なパイロットプログラムを実行して、どのソリューションが機能し、どのベンダーが誇張しているかを確認する。検証された結果のみが拡大する権利を得る。
彼らは信頼を構築するために早期にコミュニティの意見を取り入れる。契約の規模ではなく運用上の影響を測定し、近代化は贅沢ではなく必要性であるため、迅速に動く。その機敏性は、進歩が大規模な予算と終わりのない調達サイクルを必要としないことを示している。実験し、評価し、調整する意欲が必要なのだ。
米国のリーダーが今すぐすべきこと
市長やCIO（最高情報責任者）はAIの専門家になる必要はない。主張を評価し、コミュニティを保護するためのより良いプレイブックが必要なのだ。世界的に機能していることに基づいて、最も重要な原則を以下に示す。
1. 問題から始め、成功を事前に定義する。より速い応答時間や早期の脅威識別などの成果を中心にRFPを構築する。
2. 短期的で構造化されたパイロットプログラムを実行する。現実世界でのパフォーマンスを評価する。結果を公表する。データに意思決定を導かせる。
3. データとアルゴリズムに関する透明性を要求する。国民はこれらのシステムに対価を支払っている。国民はそれらが生成するデータを所有すべきだ。誰が基礎となるインテリジェンスを構築したのか、データがどこに移動するのかを尋ねる。
4. 相互運用性を要求する。安全は、管轄区域や部門を越えて情報が流れることに依存している。統合を拒否するベンダーは前進すべきではない。
5. 長期的な運用価値に焦点を当てる。時代遅れになる一度限りのハードウェア購入を避ける。継続的な洞察と測定可能な改善を提供するシステムに投資する。
6. 最初からコミュニティを巻き込む。ガバナンスと監視は、展開後に追加するのではなく、組み込まれるべきだ。
世界が注目している
我々は転換点にいる。AIは警察官がより速く対応するのを助けることができる。行方不明の子供を見つけるのを助けることができる。説明責任と信頼を強化することができる。しかし、その未来は、関係性やマーケティングよりも透明性と結果を重視する場合にのみ可能だ。
現在、公共安全AIにおける最大のリスクは手続き上のものだ。それらは、効果よりも利便性を、進歩よりもレガシーを優先する調達に起因している。
我々にはそれを修正する機会がある。そして、我々に依存するすべてのコミュニティに対して、それを正しく行う義務がある。
