企业AI智能体何时必须强制人工审批?

企业 AI 智能体并不是“能自动做，就应该自动做”。真正需要强制人工审批的，通常不是某个技术动作，而是那些一旦执行，企业很难承受后果的决定：资金已经流出、记录已经删除、正式文件已经发布，或者生产环境已经发生改变。

一个实用的判断标准，是看动作是否同时具备高风险和低可逆性。查询数据、生成草稿、库存检查、记录日志这类操作，通常可以直接执行；发送标准邮件、更新非关键记录，则至少应留下完整审计痕迹。金融交易、删除记录、生产部署，以及发布正式文件等动作，原则上应进入 REQUIRE_APPROVAL，由明确的业务负责人或运维人员确认后才能继续。

金额和业务影响也应成为审批闸口的条件。比如订单金额超过 10 万元时，即使前面的库存校验已经自动完成，后续动作仍应暂停等待审批。对资料流转来说，草稿提交到审阅队列可以自动完成，但正式发布前必须有人确认，尤其是系统检测到敏感信息泄露风险时，更不能让智能体自行绕过检查。

不过，人工审批不是唯一的安全线。智能体出现连续异常时，系统也应能整体暂停。例如，可通过滚动窗口统计拒绝率，达到预设条件后触发熔断；资料中给出的设计示例是 1 小时内拒绝率超过 15% 时暂停智能体。这个阈值不宜机械照搬，关键是让团队能在事故扩大前看到异常趋势。

审批机制还必须回答三个问题：拒绝后怎么办，已经执行的动作能否撤回，服务重启后是否仍保持暂停。数据库写入可能可以事务回滚，邮件发出后却往往只能发起补偿操作。因此，每个高风险节点都应提前设计回滚或补偿路径，并持久化暂停状态，配合监控、告警和审计链。

说到底，强制审批的边界不该由“智能体是否足够聪明”决定，而应由损失上限、可逆程度、合规要求和责任归属共同决定。企业真正要讨论的，或许不是“哪里可以自动化”，而是“哪些决定绝不能在无人知情时发生”。