欧州最大の消費者団体の欧州消費者機構（BEUC）の副事務局長のUrsula Pachlは「我々は、当局に対し、今すぐ調査を開始するよう求めている」と述べている。
彼らの呼びかけは、いくつかの課題に焦点を当てている。一部の開発者は、外部からの監視を防ぐためにAIシステムをクローズ化しており、データがどのように収集されたかを把握することが非常に困難だ。さらに、そこから導かれるアウトプットはしばしば不正確で、差別や偏見に満ちたものもある。
また、生成AIは、人間の話し方を模倣したり、感情的な言葉を使ったりして、消費者を操作したり誤解させる目的で使用される可能性がある。さらに、AIを用いた画像生成ツールが、法的根拠や関係者の知識に基づかずに、検索エンジンやSNSから取得したデータセットを学習に使用することが、プライバシーや個人の権利を侵害する可能性もある。
「ChatGPTのような生成AIは、人々にさまざまな機会をもたらす一方、人々を欺き、操り、傷つけるために使用される懸念がある。また、偽情報を広めたり、差別を助長する目的で使用されることも想定できる」とBEUC のPachlは述べている。
欧州データ保護委員会は、すでにChatGPTを調査するタスクフォースを立ち上げており、欧州議会もこの報告書で強調されたような課題に対処するための「EU AI Act」と呼ばれるAI規制法案を可決したばかりだ。
「EUがこの法案を可能な限り厳格なものにすることが重要だ。生成AIを含むすべてのAIシステムは、公的な監視の下に置かれる必要がある」とPachlは述べている。
一方、英国の情報コミッショナー事務所（ICO）は先日、生成AIを使用する組織がデータ保護法を遵守しているかどうかのチェックを厳格化すると警告した。
「私たちは、企業が生成AIを導入する前にプライバシーリスクに取り組んでいるかどうかをチェックし、データの不適切な使用によって人々に危害を加えるリスクがある場合には適切な措置を講じる」と、ICOの規制リスク担当のStephen Almondは述べている。
一方、米国では現在、AIは証券取引委員会（SEC）や連邦取引委員会（FTC）など、さまざまな機関によって規制されているが、欧州に比べると規制の進展は遅いのが現実だ。米議会の上院では、政府機関がAIを利用する際に、国民にそれを知らせることを義務付ける法案が検討されている。
（forbes.com 原文）
