如何构建可审计的 Agent 纠错链路?

我现在看 Agent 的纠错能力,第一反应已经不是“它会不会自检”,而是:出了错,我能不能看清它错在了哪里、为什么又改成了现在这个结果。尤其是图文混合任务,截图里的数字、单位、期间和文字里的统计口径很容易互相打架。让一个 Agent 从读图一路做到计算和结论,表面很省事,实际像把一串小误差塞进滚雪球机,最后很难追责。

1787062783-aiimg6a8469ffb83ef3.15985987.webp

真正可审计的链路,起点应该是把“给出答案”换成“交付带证据的答案”。我会要求每个关键字段都保留来源:项目名称、数值、单位、所属期间,以及它来自图片的哪个位置;用户文字中的限制条件也要单独记录。这样,后面发现利润项目有歧义时,系统不会把整份结果推倒重来,而是能精准回到字段识别这一步。

检查点要拦住错误扩散

我比较认可把检查放在任务交界处。识别前先看输入是否完整:图片是否模糊、裁切,两期材料是否齐全,比较口径有没有说明。材料不够就停下来提问,别让 Agent 一本正经地猜。

字段提取后,再检查“字段和证据是否绑定”。只读到一个数字、却找不到对应项目名,或者“利润”可能指向多个指标,都不该直接进入计算。字段可以明确分成已确认、存在歧义和缺失三类;只有已确认的字段参与比较,其余字段要么局部重读,要么交给人工确认。

计算之前还要做跨期对齐。同样叫收入,不代表期间、统计范围和单位一致。这里的重点不是让模型再读一遍图,而是判断两份数据是否真的能比较。不能对齐,就返回失败原因,由规划环节决定补充换算、删除比较项,还是请求确认。

修正要能回退,也要能停下

最怕的“纠错”就是无限重试。图像不清晰,应回到输入检查;字段缺少证据,应回到局部识别;口径不一致,应回到对齐和规划;计算矛盾,才回到计算步骤。每次回退都记录失败原因、旧结果和替换结果,审计才有意义。

同一字段反复处理仍无法确认时,最诚实的输出不是硬凑完整表格,而是保留空缺并说明原因。对我来说,这种敢于停下、能把证据和修改路径摊开的 Agent,才是真的可靠。

参与讨论

0 条评论

延伸阅读