この法案はまた、4つのリスクレベルに応じて規制を設け、違法に市民をプロファイリングするために使用される恐れのある生体認証システムや予測警備、感情認識など、特定のアプリケーションを全面的に禁止している。
ChatGPTのような生成型AIシステムで作られたコンテンツは、それを開示することを求められる。特に、選挙で有権者に影響を与えるために使用されるAIシステムは、高リスクとみなされる。また、SNSプラットフォームが使用するレコメンドのシステムも高リスクとされる。
さらに、警察などの法執行機関や職場、教育機関による感情認識システムの使用も禁止され、顔認識データベースを作成するためにインターネットや監視カメラ映像から顔画像を無制限にかき集めることも禁止されている。
一方で、生成AIや基盤モデル（foundation model）などの分野に関しては、プロバイダーが起こりうるリスクを評価し、EU市場にリリースする前にEUのデータベースにモデルを登録することが義務化される。ChatGPTなどの生成AIシステムは、学習に使用された著作権保護データの詳細なサマリーを公開する必要に迫られる。
この法案はプライバシー保護運動家から広く歓迎されている。
「欧州議会が公共空間におけるリアルタイムの顔認識を禁止しようとしていることは、公民権運動にとって歴史的な成功であり、中国のような大量監視のディストピアの未来に反対する明確な一票だ」と、海賊党のパトリック・ブレイヤー議員は述べた。
一方、デジタル権を擁護する欧州の非営利団体アクセス・ナウは、この法律にはまだ重大な欠点があると警告している。彼らは、高リスクの分類に関して、自己評価が許容されていることを問題視している。また、移民のプロセスにおけるリスク評価の自動化や、移民の動きを抑制するために使用される予測分析システムの使用について特に懸念している。
「この歴史的なAI法の投票において、欧州議会は社会から大規模な監視を取り除こうとしている。しかし、EUは移民たちの権利を保護しようとしていないことが、移民に対して使用されるAIシステムの禁止規定がないことで示されている」と、アクセス・ナウのEU政策アナリストのカテリーナ・ロデッリは述べている。
「移住の文脈での禁止事項がなければ、EUは移民たちの権利をないがしろにし、周縁化されたコミュニティを意図的に危険にさらすことになる」と彼女は続けた。
（forbes.com 原文）
