欧盟人工智能法案合规要点

面向欧盟用户的人工智能产品，合规审查不应从模型效果或用户体验开始，而应先判断具体功能是否触及禁止用途、产品是否承担通用人工智能模型义务，以及高风险场景中的人工监督是否真实有效。合规负责人需要审查的不是模型名称，而是模型如何进入产品流程，并最终影响用户的机会、待遇和权利。

先排查禁止用途

风险识别应沿着“输入—推理—输出—行动”展开。系统是否依据身份、行为或敏感信息对用户排序？是否试图操纵用户决定？是否涉及社会评分、敏感属性推断，或受限制的生物识别应用？这些问题比“模型属于哪个风险等级”更适合作为第一道筛查。

同样的模型，生成通用文本与自动决定用户能否获得招聘、教育、服务或其他机会，合规性质并不相同。涉及禁止或高度敏感能力时，不能只增加免责声明或提示语，而应暂停上线评估，将相关能力拆分为独立功能开关，并按地区、用户类型和场景设置权限。

通用模型要能说明来源与变化

如果企业提供或运营通用能力模型，合规重点会延伸到模型本身。企业应能够说明训练数据与处理流程，持续维护技术文档，并审查数据来源、授权情况、个人信息处理和版权风险。数据量并不是唯一标准，来源是否清楚、用途是否明确、处理是否符合必要性和最小化原则同样关键。

模型发布后的版本变化、风险事件、数据问题、版权投诉和安全处置，也应形成可追溯记录。调用外部模型时，产品团队不能只记录接口调用，还要核对供应商的技术资料、使用限制、风险说明以及实际使用的模型版本和配置。

高风险场景必须保留有效人工控制

招聘、教育、医疗、关键基础设施、执法和司法等场景，需要重点审查风险管理、数据治理、技术文档、自动记录、透明度和人工监督。人工监督不是页面上增加一个“人工审核”按钮，而是工作人员确实拥有理解输出、暂停系统、纠正结果和拒绝自动决定的权限、信息与时间。

功能开关应绑定具体风险动作。文本生成可以与自动筛选、自动拒绝申请、自动改变用户权限分开控制。日志则应覆盖调用者、时间、功能、模型版本、输入输出、人工修改、最终决定者及异常处置，同时控制访问权限、保存期限和个人信息范围。

资源有限时，应优先处理禁止用途和高风险自动决策，再补强模型文档、数据治理与透明度。真正可执行的合规体系，不是上线前的一次审批，而是让功能开关控制风险暴露，让文档解释系统来源，让日志和人工监督支持复盘、纠正与追责。