それまでも法執行機関での顔認識技術の規制など、特定の技術と用途を規制する動きは米国を中心にありましたが、この規制案は経済圏内でAIシステムの開発や使用に対し横断的に適応される、世界で初めての包括的な規制案です。
欧州委員会の規制案に懸念の声
この規制案では、AIシステムの開発や利用がEU市民の安全衛生や基本的権利に与える影響の大きさをもとに、リスクを「禁止」「高リスク」「限定的なリスク」「最小限のリスク／リスクなし」の4段階に分類し、利用を制限しています。また違反に対しては最大3000万ユーロ（約39億円）もしくは全世界の年間売上高の6%（いずれか高い方）の罰金を科す可能性があるといい、具体的な罰則規定があるのも特徴です。
Anadolu Agency Getty images
欧州産業界は、この包括規制案のリスクベースのアプローチを歓迎しつつも、企業の負担が増えたりイノベーションが阻害されたりすることを危惧しています。
欧州機械・電気・電子・金属加工産業連盟は規制案発表当日の声明で、「AIシステム」の定義をさらに明確にすることや、産業界と連携したより強固な法的確実性を与えることを求めています。さらに、適合性評価の義務化は、企業の負担を増やし、必ずしも安全性を高めることにはつながらないという懸念も表明しています。
日本でも、2021年8月に経団連が───、
●AI規制法案は、経団連が目指す「信頼できる高品質AIエコシステム」の構築と方向性を同じくする
●しかし現段階では、禁止・ハイリスクAIの定義などに曖昧さや解釈の余地があり、欧州への投資意欲や新興AI企業などの育成・強化を妨げ、イノベーションや国家安全保障に影響を及ぼす懸念がある
●施行前に、定義の明確化や説明の追加、ガイドラインなどの提供を行うべき
と、同様の意見を表明しています。
例えば、規制案の「禁止」の分類には、無意識の知覚に影響するサブリミナル技術に関係するAIが挙げられています。「サブリミナル」と聞くと何か仰々しいAIを想像してしまいますが、そんなことはありません。ごく身近なAI技術も該当する可能性があるのです。検索結果の表示順、ショッピングサイトに掲載されたおすすめアイテム、ストリーミング動画配信サービスで薦められる映画やドラマ、転職サイトでマッチングされた企業の表示順──。
我々がその裏で働くAIやアルゴリズムについて意識することはほとんどありません。しかし、こういったサービスが、何を買うか、どのドラマを見るか、どこに履歴書と職務経歴書を送付するか、という我々の行動に少なからず影響を与えているのは間違いありません。
もしも、このようなAIが「無意識の知覚に影響するサブリミナル技術に関係するAI」に該当するということになれば、この規制案はテクノロジー産業に甚大な影響を及ぼす可能性があります。このようにAIの定義やその適用範囲に曖昧性があり、文言も拡大解釈が可能なので、各方面からさまざまな懸念が出ているのです。
企業リスクは新興テクノロジーにも
とはいえ、AIのもたらすリスクについてより具体的な議論が進み、今後はリスクベースでAIのガバナンスを考えなければならないというのは世界の共通認識となっています。AIのリスクが企業リスクともなりえるからです。
