国家互联网信息办公室10月15日发布《互联网信息服务深度合成管理规定（修订草案征求意见稿）》，面向社会公开征求意见。本次修订重点针对AI生成内容快速发展的新形势，完善了深度合成内容标识、训练数据合规、服务提供者责任等方面的规定，进一步规范深度合成技术应用，防范AI生成内容带来的风险。
修订草案强化了AI生成内容标识要求。所有利用深度合成技术生成的文本、图片、音频、视频等内容，必须在显著位置添加明确的AI生成标识，不得移除、篡改、隐匿标识；用于新闻信息传播的AI生成内容，必须同时标注生成模型、生成时间、提示词等元数据信息；AI生成的人脸、人声等高仿真内容，还必须嵌入不可见的数字水印，便于事后溯源鉴别。
训练数据合规是新增的重要内容。修订草案要求深度合成服务提供者建立训练数据合法性审核机制，不得使用未经授权的版权作品、个人信息作为训练数据，不得利用训练数据实施不正当竞争；对涉及他人肖像、声音的训练数据，必须取得权利人单独同意。这一规定回应了近期AI公司滥用受版权保护内容训练模型的争议。
同时，修订草案对AI「虚拟人」服务提出专门要求：提供虚拟主播、虚拟偶像、虚拟人直播服务的，必须明确告知用户其为AI生成，不得使用AI虚拟人冒充真人进行商业宣传或者新闻播报；提供AI换脸、AI语音克隆服务的，必须进行严格的身份核验，防范技术被用于诈骗、诽谤等违法犯罪活动。