智能体在复杂任务中为何总是半途而废?

前阵子我让一个智能体帮我干一件不算复杂的事:查资料、整理成表格、再写个脚本跑一遍。开头它干劲十足,计划列得头头是道,我心里还暗爽"这下省事了"。结果半小时后去看,它正在原地打转——反复调用同一个搜索,搜出来的东西看都不看,最后干脆编了一个根本不存在的接口,还特别自信地写进了代码里。那一刻我真的哭笑不得。

智能体在复杂任务中为何总是半途而废?

后来翻了不少资料我才想明白,这事儿真不怪它"态度不端正",而是从娘胎里带出来的毛病。大模型的规划能力是从文本分布里学来的,它见过无数人写"第一步做什么、第二步做什么",所以能模仿出计划的样子,但它并不保证每一步都符合现实逻辑。任务短的时候还好,一拉长,误差就像滚雪球一样累积,最后陷入无意义的循环,甚至虚构出压根不存在的API。

还有个更根本的问题:它没有内在目标。模型能写一本完整的小说,但它自己决定不了要写什么。我们给它装上的记忆、工具、规划模块,说白了就是外挂式补丁,拼得再多,也不是一个统一的认知架构。它训练时见过太多互相矛盾的知识,真到推理的时候就摇摇摆摆,遇到岔路随便挑一条走,走错了也不知道回头。半途而废不是它想放弃,而是它压根不知道"半途"在哪儿。

所以现在我学乖了。像AutoGPT、MetaGPT这类尝试,演示效果确实惊艳,但真用起来,我只敢把边界清晰、工具可控的活交出去——比如固定格式的整理、限定范围的检索。至于那种需要十几步、环环相扣的复杂任务,我宁愿自己先拆好,再一段一段喂给它。智能体现在还是个半成品,把它当实习生用,别当合伙人信,心态会好很多。

参与讨论

0 条评论

延伸阅读