通过外部验证和状态机实现 AI Agent 反思机制的可靠修正

复杂任务中，AI Agent 真正危险的并非第一次出错，而是发现异常后不断检查、修改，却始终无法完成。反思机制只有在“发现问题—改变策略—验证结果—决定退出”形成闭环时，才具备工程价值；单纯增加思考轮数，可能只是让错误解释得更完整。

可靠修正的核心，是把模型的自我判断与外部证据分开。模型可以分析失败原因，提出下一步动作，但不应独自决定任务已经完成。代码任务应依据实际执行或测试结果，结构化输出应检查字段、格式和必填条件，需要事实依据的任务则要把结论与输入资料对应核验。外部验证提供的是可检查状态，而不是“我认为正确”的主观判断。

但验证通过也不代表绝对正确。若验证器只检查格式，或标准与任务目标脱节，Agent 仍可能获得虚假的完成信号。因此，验证条件必须贴近目标，并明确哪些结果允许进入完成状态，哪些结果只能继续修正或转交人工处理。

状态机的作用，是把开放式反思限制在有限流程内。模型负责回答“下一步怎么做”，系统负责判断“能不能继续”。至少应设置三类状态：完成、继续、需要人工处理。进入“继续”状态时，反思必须指出缺失的证据或将要改变的变量，而不能只重复“需要更加仔细”。

系统还应设置最大尝试次数、工具调用上限和资源预算，并记录失败签名。如果连续几轮使用相同工具、相同参数，或得到相同失败结果，就说明行动路径没有真正变化。此时应切换策略、缩小任务范围，或停止循环，而不是继续堆叠上下文。

记忆也应服务于改变行动。相比保存全部历史，更有价值的是保留失败原因、验证证据和下一次准备调整的变量。这样，Reflexion 式记忆才能避免重复路径，Self-Refine 式的生成—批评—改进也才不会沦为版本反复摆动。

因此，反思不是可靠性的证明，而是修正机制的一部分。稳健的 Agent 应由模型提出方向，外部系统检查结果，状态机控制边界；只有失败可识别、策略有变化、结果可验证、循环能退出，反思才真正转化为可靠性。