国家网信办发布《深度合成管理规定》：规范、可追溯与责任主体并重

导语：2024年6月，国家互联网信息办公室（网信办）会同有关部门在北京发布《深度合成管理规定》，旨在应对深度合成技术快速扩散带来的信息安全、个人隐私与知识产权风险。该规定明确了适用范围、责任主体、标识与可追溯机制，以及备案与技术审查等落地措施，要求企业通过实名制、内容标识、备案与技术保障等方式实现可控发展。

背景与定义：为何当下亟需规定

深度合成是指利用生成式人工智能（包括但不限于深度学习模型）合成音频、图像、视频或文本的技术。其一，技术成熟度提升使得“以假乱真”成本显著降低；其二，深度合成在新闻传播、短视频、娱乐及在线教育等领域迅速渗透，给信息真实性、人格权与版权保护带来挑战；其三，缺乏统一标准导致平台与用户在识别、处置和追责上存在盲区。因此，出台系统性管理规定具有紧迫性。

核心条款解读：其一明确主体责任，其二强化技术与流程

其一，责任主体明确。规定将内容生产者、深度合成服务提供者与网络平台三类主体的权责进行划分，要求服务提供者承担技术合规义务，平台承担治理与报告义务，生产者承担真实性与合法性责任。

其二，标识与可追溯要求。规定要求对外发布的深度合成内容进行显著标识，并在内容元数据中嵌入可追溯信息（如生成工具、时间戳、责任主体等），以便监管和取证。这里的“标识”不仅指视觉提示，还包括机器可识别的水印或元数据标准。

其三，备案与技术审查。对涉重点领域（政治、医疗、司法等敏感领域）生成内容实行事前或事后备案与安全评估，必要时要求进行第三方鉴定。规定还提出建立行业技术规范，例如深度合成识别与标识要求与检测能力的最低标准。

其四，执法与处罚机制。规定赋予监管部门调查、下架、处罚以及追究刑事责任的权力，同时提出行政执法与行业自律并重的合规路径。

影响评估：对产业、监管与社会的多维影响

从产业角度来看，规定促使企业加速部署合规体系，包括技术审计、模型风险评估与合规设计（privacy-by-design、security-by-design）。从监管角度来看，规定提升了可操作性与执法效率，但也对监管能力提出更高要求，尤其是对技术鉴定与跨平台协同的能力。

从社会层面看，规定有助于恢复公众对媒体与在线内容的信任，但在短期内可能增加小型创业团队与独立创作者的合规成本，要求政策配套包括合规指引、分级豁免机制与技术支持。

专家观点与案例分析：检测、标识与责任链

多位业内专家指出，深度合成治理的关键在于“标识+可追溯+第三方鉴定”。其一，技术性标识（如鲁棒水印）应与法律标识共同存在，以兼顾公众知情权与证据链完整性。其二，建立独立的第三方鉴定机构，承担技术鉴定与证据出具职能，可以缓解监管部门在技术鉴别上的压力。其三，明确平台在接到投诉后的处置时限和流程，有助于快速遏制谣言传播。

案例方面，监管实践显示，在短视频平台上部署自动识别与人工复核相结合的流程，能够在早期拦截大量问题内容，但对于伪造高精度人像与声音，仍需依赖模型审计与源头追溯。

建设性建议：标准化、分级监管与国际协同

为实现规定的预期效果，建议如下：一是加快制定并发布《深度合成内容监管细则》与技术规范，明确元数据格式、标识位置与检测阈值；二是实施分级监管，对不同风险等级的深度合成内容采取差异化管理，减少对创新的过度约束；三是支持建立第三方鉴定与认证体系，形成公正的鉴定链条；四是推动与其他国家在技术标准与跨境取证方面的协调，防范跨境滥用。

《深度合成管理规定》不仅是对生成式技术的规则化回应，也将深刻影响媒体治理、版权保护与公共话语环境。未来几年，合规标准与检测能力将成为行业竞争的新边界。深度合成管理规定要求产业、监管与公众共同参与，以技术、制度与法治方式构建可持续的发展路径。