「人工知能（AI）や分析に対する注目が急激に集まる中、私たちは衝撃的な結果につながり得る社会への長期的影響について、見て見ぬふりをする傾向にある」とZLテクノロジーズ（ZL Technologies）のコン・レオン最高経営責任者（CEO）は言う。
一方で、規制に前向きなテック企業もある。例えばマイクロソフトは、顔認識システムに対する規制（ただし全面禁止ではない）の必要性を指摘。さらに、カリフォルニア州の警察署による同社テクノロジー購入の要請を拒否さえもした。
AI技術は進歩しているとはいえ、依然として問題はある。AIが誤った判断をした事例は数多い。「AIが登場するまでは“ビッグブラザーがあなたを見ているが、彼の目は見えない”と言われていた」と、ルーム（Ruum）の共同創業者で最高製品担当責任者（CPO）のシュテファン・リッターは言う。
「つまり、そこかしこにある監視カメラが人々の行動を記録しているが、実際に人々の自由や権利が奪われていたわけではなかったということ。私たちはカメラにうつされていたが、現実として警察が録画記録を調べるのは、何時間もかけてビデオを見返す価値があるような凶悪犯罪の捜査でのみだった」
「しかし、社会統制を目的としたAIによる顔認識により、理論的にはニューラルネットワークが犯罪の発生を予知できる『マイノリティ・リポート』的な未来に近づく危険性がある。“推定無罪”は民主主義国家の根幹をなす原則のひとつであり、AIをどのように社会システムに取り込むかについては幅広く議論を行うことが重要だ」
もちろん、顔認識システムには多くの利点もあり、MRIで病気を認識したり、事故を事前に予見したりといったことに活用できる。一方で、意図せぬ影響にも着目する必要がある。実際に大きな問題が起きてしまうと、AIの進歩が妨げられる可能性がある。
