人工知能（AI）は、組織のリスク管理のあり方において真の転換点となっている。AIを活用したツールは、現実世界のデータからパターンを見出し、数年前には不可能だった形で、より迅速かつ的確な意思決定を支援できるようになった。これらのシステムは、業界で「インテリジェンス・リターゲティング」と呼ばれる用途、すなわち新たに浮上する脅威や刻々と変化する戦略的優先事項にリアルタイムで焦点を合わせるためのデータ収集と分析の高度化にも、ますます活用されている。
同時に、リスクインテリジェンスにおけるAIの利用は、バイアス、透明性、プライバシー、説明責任に関する重要な懸念を提起する。問われるのは、AI駆動のイノベーションを、実効性ある統治と倫理的セーフガードとどう両立させるかである。
スピードが鍵
この領域でAIを非常に価値あるものにしている核心的な能力は「複合分析」である。すなわち、複数の変数を一連のパラメータに対して同時に照合し、現実世界のデータから多層的な評価を驚異的な速さで構築する能力だ。かつては手作業で何時間もかかっていた分析が、いまや数分で完了する。そしてより多くの組織がAI処理された脅威インテリジェンスを共有することは、そのネットワーク上の誰にとってもリスクの全体像をより完全に把握できることを意味する。
子どもの誘拐事件を考えてみてほしい。子どもが行方不明になったとき、一分一秒が重要だ。捜査官は子どもが最後に目撃された場所、近くにあった監視カメラ、稼働していた携帯基地局、そしてその地域にいた人物を知る必要がある。これらの情報はいずれにせよ人間の捜査官によって分析されるものだが、AIを使えば、それらを統合し、手がかりを絞り込む作業を数時間ではなく数分で開始できる。このスピードの向上により、行動可能な時間の窓が開いているうちに、実行可能なインテリジェンスへと進むことができるのだ。
バイアスと不正確なデータ
とはいえ、AIを監視なしに運用してよいということにはならない。AIモデルは、学習に使われたデータの質を超えることはできない。特定の集団が学習データに十分に反映されないサンプリングバイアスは結果を最初から歪め、過去の取り締まりパターンに埋め込まれた歴史的バイアスは、時とともにこの問題を複合的に悪化させる。よく知られた例として、2019年の顔認識アルゴリズムに関する研究では、黒人やアジア系の顔が白人の顔に比べて10〜100倍の頻度で誤認識されることが判明した。
人口統計的バイアスに加え、データ企業が架空または不正なデータを販売するケースもある。だからこそベンダーのデューデリジェンス（適正評価）が重要になる。データがどこから来て、どのように検証されたかを確認しなければならない。
AIツールが人の自由に関わる決定に用いられる際、透明性やプライバシーの欠陥は深刻な結果を招きかねない。最近の事例では、ノースダコタ州の警察が銀行詐欺事件の監視映像をAIシステムにかけたところ、テネシー州の高齢女性が顔の特徴に基づいて容疑者候補として抽出された。彼女は数カ月間拘束され、その後ようやく銀行記録が精査され、疑われたすべての事件当時に彼女がテネシー州の自宅にいたことが証明された。この事件は公民権侵害の調査につながり、AIの出力結果を人間が検証することなくそのまま受け入れた場合に何が起こるかを浮き彫りにした。
こうした文脈におけるデータ利用を規定する法律は明確だ。法執行機関は令状なしに一定のカテゴリーのデータしか利用できず、こうした制限にはもっともな理由がある。しかし法令順守は出発点に過ぎない。行動を起こす前に人間によるレビューをプロセスに組み込んでおく必要があり、誤りを事後的に修正するために持ち出すべきではない。
正しく実装するには
政府であれ企業であれ、リーダーが心に留めるべきポイントは2つの原則に集約される。第一に、人間をループの中に留めることだ。私たちのシステムでは、AIの提案は先へ進む前に必ず人間のオペレーターのレビューに戻される。これは意図的な設計だ。人間の判断と、それに伴う倫理的説明責任は、現段階のAI開発において不可欠である。チェック・アンド・バランス、そして人間による定期的な監査を、最初からプロセスに組み込む必要がある。
第二に、段階的に導入することだ。既存のプロセスにAIを少しずつ組み込み、結果を測定してから拡大していく。最も苦戦するのは、人間の関与をあまりに早く排除しようとする組織である。
AIツールは今後も改善を続け、精度を高めていくだろう。処理速度は向上し、基盤となるハードウェアもより手に入りやすくなっている。しかしインテリジェンスの未来は、AIによる能力と、それに見合うガバナンスや倫理的セーフガードをいかに組み合わせるかにかかっている。
