很多企业谈智能体治理时,第一反应是“要不要禁掉它”。我觉得这个问题问偏了:真正重要的不是让员工完全不用 AI,而是让使用行为从“偷偷摸摸找捷径”变成“有边界地提效”。在我看来,白名单、审计和员工培训,就是治理智能体最关键的三条支柱,少了任何一条,管理都容易变成纸上谈兵。
白名单不能只是列出几款“允许使用”的工具,然后把其他工具一律挡在门外。更实用的做法,是给工具划分清晰状态:哪些可以正常使用,哪些需要监控,哪些只能在限制条件下使用,哪些应当屏蔽。
尤其要把个人账户和企业账户分开。员工用外部 AI 润色邮件、整理会议纪要时,可能顺手把客户信息、财务数据甚至源代码贴进去。一旦数据进入外部模型服务端,企业原有的访问控制就很难继续发挥作用。白名单真正要管的,不只是“能不能打开”,还包括“能处理什么数据、能连接哪些系统”。
没有审计,企业很难知道员工正在使用什么工具、处理哪类数据,也无法在发生问题后还原“谁在何时输入了什么”。但审计如果只剩下监视,也会让员工更不愿意报备,最后把使用行为推向更隐蔽的地方。
所以我更看重“政策先说清楚,记录再跟上”。员工应当知道哪些数据不能输入、哪些智能体不能连接业务系统,以及违规行为会带来什么后果。审计的目的,是发现风险、改进规则,而不是制造一种草木皆兵的氛围。
很多越界并非故意违规,而是员工不知道个人账户和工作账户有什么区别,也没意识到一段看似普通的文本可能包含机密。培训不能只发一份长文档让大家点击确认,而应当结合岗位场景,讲清楚哪些内容可以交给智能体,遇到不确定情况该找谁确认。
更关键的是,企业要提供足够好用的合规替代方案。如果内部工具难用、审批过慢,员工自然会寻找更方便的渠道。治理不是单方面设卡,而是把安全要求和工作效率放到同一张桌子上。白名单负责划边界,审计负责看变化,培训则让人真正理解边界。三者一起运转,智能体才不至于从效率工具变成失控的后门。
参与讨论
暂无评论,快来发表你的观点吧!