生成AIは世界的に注目されていますが、その一方で、特にデータプライバシーに関するリスクを浮き彫りにする問題も生じています。例えば、2023年4月には、Samsungの社員がChatGPTを通じて企業の機密情報（ソースコードや社内の議論）を流出させたことが報じられました。
イタリアでは、3月下旬にChatGPTを禁止した同国のデータ保護当局The Garanteによるデータプライバシーに関する懸念にOpenAIが対処したことを受け、2023年4月28日に国内ユーザーに対してChatGPTの使用が許可されました。
最近、中国政府はそのリスクを踏まえ、生成AIの安全で責任ある利用を促進することを目的とした対策を策定し、中国サイバースペース管理局（CAC）は2023年4月11日に以下の内容を含む「生成AIサービスに関する行政措置」を発表しました：
・AIが生成するコンテンツは、社会主義の核となる価値観を反映していなければならず、過激主義、暴力、社会秩序を乱す要素を含んではならない。
・企業は、アルゴリズムやトレーニングデータを設計する際に、差別を防ぐための措置を課す必要がある。また、モデルの生成と最適化は、人種、民族、信仰、国、性別、年齢、職業などに関する差別を回避しなければならない。
・サービス提供者は、コンテンツの正確性を確保しなければならない。
・サービス提供者は、生成AIの訓練に使用するデータが正当なものであることを確認する責任がある。
・生成AIサービスを提供する企業は、セキュリティ評価を受ける必要がある。
・AIサービス企業は、不公正、フェイクニュース、個人情報や企業秘密の漏洩を避ける必要がある。
・AIサービス企業は、AIが生成した写真や動画などのコンテンツを、AIが生成したものと明示する必要がある。
なお、CACによると、この措置はデータセキュリティ法、個人情報保護法、インターネットセキュリティ法に基づいて策定され、2023年5月10日までパブリックコメントを受け付けています。
中国による規制は、AIが生成するコンテンツの機能を制限してしまう可能性があるかもしれませんが、生成AIの健全な発展を促進するのに効果的だと思われます。中国でビジネスを展開するブランドや小売企業は、AI生成コンテンツを作成する際に、正確性とセキュリティの確保に特に注意する必要があるでしょう。
