政务AI如何设计人工介入机制?

聊政务 AI，很多人第一反应是“机器能不能干得更好”，但真正让项目负责人睡不着觉的，往往是另一个问题：出了事，谁来负责，谁说得清。效率可以由算法承担，可公共权力、风险判断和责任追究，没法模糊地交给一串代码。无锡警方与本地八家人工智能企业合作探索警用机器人应用，恰好提供了一个观察窗口——政务 AI 落地的难点，从来不只是技术。

先分清“自动化”和“自动决策”很重要。能标准化、重复执行、结果容易复核的环节，比如信息采集、环境感知、路线规划、设备巡检，适合交给系统，它跑得更快、记得更全。但涉及法律后果、个体权益和现场风险的环节，比如是否采取强制措施、如何处置识别不确定的人员，就必须保留明确的人工判断。两者在流程上可能只差一个开关，在责任层面却是完全不同的层级。系统可以输出线索和提示，但不应直接产出公共治理的最终结论。

人工介入点怎么设计，可以按风险等级来分层。低风险任务，系统自动执行、工作人员抽查即可，重点确认自动化没跑偏；中风险任务，机器提建议、人员确认后执行，而且确认不能只是形式上的点击，操作者得能看到依据、置信程度和误报风险；高风险任务则必须人工主导，系统只能提供辅助信息。一个常见误区是“系统能做到”就等于“系统应当独立做”，技术可行性只是上线条件之一，还得评估错误后果、人工接管难度和责任能否追溯。

警企协作的责任划分，也不能简单写成“政府管管理、企业管技术”。更合理的做法是围绕 AI 生命周期拆分：企业负责设计、开发、测试、缺陷修复，尤其要说明识别边界和已知误差；政务部门负责应用场景的合法性、数据使用范围和处置依据。多家企业参与时，还得避免责任被拆散到无人负责，跨系统故障要有牵头方。数据安全同样要覆盖使用过程，权限按岗位划分，测试数据尽量脱敏，调用、导出、修改都要留审计记录，甚至项目终止后数据如何返还或删除也得提前约定。

说到底，责任边界要靠可追溯来支撑。系统应能还原关键过程：输入了什么、输出了什么、用了哪个版本、谁确认了、之后做了什么。验收也不能只看识别准确率，还要测异常数据、通信中断、人工接管这些场景。真正成熟的政务 AI，不是让机器承担尽可能多的决定，而是在该自动化的地方提效，在必须由人判断的地方保留判断，让每个关键环节都能被解释、被监督、被追溯。