四级风险表助力AI合规案例

一家企业想让 AI 帮忙处理客户沟通，最初的设想很简单：把内部资料丢进去，生成回复，再由系统自动发出。听起来省事，但把任务放进四级风险表后，问题马上变得具体了：输入里有没有重要个人信息或内部经营资料？回复会不会影响客户权益？系统能不能直接发送？发错后还能不能撤回？

同样是“写一封邮件”，分级后的处理会完全不同。若只是根据公开资料整理一份内部草稿，属于低风险辅助，使用者自行核对即可；若要引用内部信息并供部门内部使用，就进入受控管理，需要明确任务负责人、数据类别和输出去向。真正的分水岭在于，邮件一旦面向客户，或会影响处理结果，就不能把 AI 当成普通文档工具。

在这个场景里，企业可以把对外回复放进三级任务：业务负责人先批准使用范围，相关人员保留输入范围、输出内容、修改记录和复核结论，具备业务权限的人逐项确认事实、对象和表述。AI 可以起草，但不能代替最终决定。这样做不是给员工添麻烦，而是避免“草稿被直接发出”这种最常见的流程滑坡。

如果后续又增加了自动发送、自动修改业务记录等能力，风险就会升到四级。此时，重点不再只是“内容有没有错”，还要看动作能否暂停、错误能否撤回、出了问题由谁追责。业务、信息安全、合规和系统负责人需要共同确认，人工必须在执行前介入；无法有效暂停或恢复的自动动作，原则上不该直接放行。

四级风险表真正有用的地方，是把抽象的“AI 合规”拆成可操作的问题。大家不必先争论某个工具到底安不安全，而是先看这项任务用了什么数据、影响谁、会不会自动行动、出错后好不好补救。控制措施跟着实际后果走，合规才不会停留在一张贴在墙上的制度表里。