国土安全保障省の認証を取得した「ZeroEyes」と、実際の検知事例
ZeroEyesは2024年、米国土安全保障省（DHS）から「SAFETY法指定」を取得した。DHSの評価担当者は、厳格な試験や評価、実際の事案を通じて、同社のプラットフォームの信頼性と有効性が検証されたと述べている。ZeroEyesによると、同社の技術は2023年以降、1000丁を超える銃を検知してきた。そのうちの1件は2025年初めテキサス州の学校で起きた事案で、未成年者がライフル銃を所持し、校内に侵入しようとしたものだった。警察は発砲に至る前に当該人物を確保した。
ZeroEyesのCEO兼共同創業者、マイク・ラヒフは、他の事案はそれほど深刻なものではなかったと語る。「学校内で銃を所持している人物を確認しているが、そのすべてが生徒を撃つ目的だったとは考えていない」と、元ネイビーシールズ隊員のラヒフはフォーブスに語った。彼はまた、同社AIが無害な物体を銃と誤認することがしばしばあることを認めたうえで、退役軍人・元救急隊員・元警察官で構成されるチームが警告を検証し、必要に応じて警察の出動を要請すると説明した。
テキサス州では誤警報によるロックダウンが発生、現場で多発する誤検知という課題
もっとも、このシステムは完璧ではない。ZeroEyesは誤警報を出す場合もあり、2023年にはテキサス州の学校で誤った銃検知を行ったと報じられている。これを受けて学校はロックダウンされ、生徒は恐怖に包まれたという。「私たちの過ちを認めることが、今後の改善につながる」とZeroEyesのラヒフは語る。同社は、自社の技術が導入されていた学校で銃乱射事件が起きた事例は把握していないとしている。
無害な日用品を武器と誤認する精度問題、連邦取引委員会からの是正措置
精度の問題は、この種のテクノロジー全体に共通する課題だ。ビバリーヒルズ高校を含む全米800校以上で導入されている銃検知ソリューション「Evolv（エボルブ）」は、ノートパソコンや水筒といった無害な私物を銃と誤認してきた。2024年には、同社が「あらゆる種類の武器を検知できる」と学校側に誤解を与える主張を行っていたとして、米連邦取引委員会（FTC）から是正措置を受けた。
規制当局は、Evolvが2022年に生徒が刺される事件で使われた刃渡り約18センチのナイフを検知できなかったケースを含め、複数の事例で検知に失敗していたと指摘している。Evolvの広報担当者アレックス・オザーキスは、FTCの指摘は「過去のマーケティング上の主張」に焦点を当てたもので、同社はすでに対処を行ったと説明した。また、製品の「中核機能の有効性」を否定しなかった。
オザーキスによると、Evolvの技術は平均して1日あたり500丁の銃を検知・識別し、毎日85万人超の学校来訪者をスクリーニングしているという。このツールは、ZeroEyesと同様にDHSの認証を取得している。また、Evolvが引用した第三者機関の全米観戦スポーツ安全・警備センター（National Center for Spectator Sports Safety and Security）の研究で、同社ツールが「実際のスポーツイベントにおいて武器の発見に高い有効性を持つ」とされていた。
スナック菓子を銃と誤認し警察が出動、意思疎通の不備による拘束事件が発生
しかし2025年初め、武器検知分野の別の競合Omnilert（オムニラート）は、メリーランド州ボルティモア郡で、ポケットの中にある空のドリトスの袋に手を伸ばした16歳の生徒を、銃の脅威の可能性があるものとして誤検知した。地元メディアによると、ケンウッド高校に通うこの生徒はその結果、警察に銃を突きつけられて拘束され、校内で安心して過ごせなくなったという。Omnilertはフォーブスに対し、メリーランド州教育監察総監室がまとめたこの事案に関する報告書を示し、「警察が関与するに至ったのは、警備担当者と校長との間の意思疎通の不備が原因だった」と説明した。同社の広報担当者ブレイク・ミッチェルは、同社として同様の事案は他に把握していないと語った。
「人の攻撃性の兆候」や、フェンスを越えるなどの「不審な行動」を検知できると主張する他のAI行動分析ツールも、議論を呼んでいる。映像や音声から人の感情を判断できるとする製品は、効果がない、あるいは偏りがあるとして批判されてきた。過去の研究では、こうしたシステムが黒人の感情状態をより頻繁に否定的に分類する傾向があることが示されていた。
