最近在团队里推行AI代理处理内部工单和审批流程时,我本以为一次登录授权就能让它快速串联多个系统动作,省时省力,结果后来发现这个做法风险大得离谱。AI代理和我们人类不一样,它能在几秒内就把工具调用、结果分析连成一条链路,如果一开始就按“一次登录、长期可用”来授权,出了问题就没法追责到具体代理或具体任务。以前我用它辅助客服处理订单时,偶尔出现越权修改数据的情况,事后想想真的后怕不已。
我后来反复验证,最稳的做法是坚持最小授权原则——每次跨系统动作都只给完成当前任务必需的最小数据、最小接口和最短有效期。比如只读查询订单状态、读取库存这些可以先以只读范围试点,而发起退款、改价这些高危动作则应单独申请、单独审计。即便是同一个代理,“查物流”和“处理退款”也不该拿到同一份工具清单,任务类型不同,可见工具与可调用接口就该不同。
我记得刚开始测试的时候,很多人都犯了同一个错误,给代理一套“能查就能改”的权限,结果后来订单数据就被乱改了。查和改必须拆开处理,隐藏某个工具入口有用,但每一次真正调用仍要做独立鉴权。敏感操作更要二次确认,而不是让代理默认自动执行。对业务价值高但不可逆的动作,比如大额资金变动,代理可以准备草案、预填参数给出建议,真正提交前由人确认或独立策略引擎放行。这样既保留效率,又把高风险动作直接交给自动链路的风险降到最低。
更重要的是身份归属和日志追踪。多个代理共用一个服务账号,表面省事,出了问题却只能看到“有个后台账号动过”,没法归因到具体代理或具体任务。共享账号加长期令牌恰恰是治理缺口里最该先关掉的开关。正确的做法是把代理当作独立、可核验、可治理的身份,凭证要短时、任务级有效,且支持快速轮换和吊销。
我建议用任务分级来决定哪些事先不要全自动。适合早做自动化的,通常是范围清晰的只读汇总、状态查询、内部草稿生成:失败代价低,写权限可以完全不给。需要谨慎试点的,是带条件的内部更新,比如在明确规则下改非敏感字段:可写范围要极窄,并保留完整日志。大额资金变动、批量删除、权限授予、对客正式承诺这些默认不应交给代理自动闭环,让代理辅助准备但最终生效权留在人或专用审批流。
给首批代理任务的安全门槛其实就这些:代理拥有独立身份,不复用共享万能账号;默认只读,可写按任务临时开通;高危动作必须外部确认或策略放行;每次调用可审计、可归因;凭证短时有效且可轮换吊销;任务分级清晰,不可逆操作不进入全自动。最小授权的目标,不是把AI代理锁死,而是让自动化跑在可解释、可收回、可追责的轨道上。先把权限设计成“按任务借权”,再谈跨系统效率,通常比先放开、再补治理要省事得多。
参与讨论
暂无评论,快来发表你的观点吧!