很多团队一问 AI 成本,第一反应是看模型单价、看 token 报价。我以前也这么算,结果试点阶段感觉“挺便宜”,一接进真实业务,账单和人工时间一起往上蹿。后来我才明白,企业真正该算的不是“问一次多少钱”,而是“完成一个合格任务到底多少钱”。
最实用的公式其实不复杂:工作流单位成本 = AI 直接费用 + 人工介入成本 + 配套系统成本 + 失败与返工成本,再除以成功完成的任务数。 这里的“成功”必须先定义清楚。比如缺陷修复,不是生成了一段代码就算完成,而是经过测试、审查并能合入流程;客服预审也不是给出回复就结束,而是要达到可发送、可追溯的标准。
AI 直接费用不只包含输入和输出的 token。多步骤工作流里,工具调用、长上下文、重复尝试都会叠加。尤其编码代理这类任务,表面上像一次请求,背后可能经历检索、生成、修改、再次验证。只拿名义单价乘调用次数,通常会把真实支出算得太乐观。
更容易被漏掉的是人工成本。一个工作流若经常需要员工接管、补资料、纠正方向,AI 省下的时间可能并没有想象中多。我的建议是,在试点时记录三个数:端到端耗时、人工复核比例、一次通过率。它们比“大家觉得回答不错”诚实得多。一次通过率低,意味着每个成功任务都要分摊更多重试费用;人工复核高,意味着省下的并非完整工时。
还有一笔常被技术团队忽略的账:安全审查、日志留存、私有连接、厂商支持,以及内部系统集成。这些不一定按每次调用收费,却会随着工作流扩大变成固定投入。把它们全部摊进单位成本,才能避免技术试点很漂亮,年度预算却突然失控。
我会把不同模型或不同供应商放进同一条真实链路比较,而不是让它们分别展示“最佳回答”。高风险环节可以用能力更强的方案,重复且规则明确的环节则考虑更经济的路由。最后,别只盯着成本最低的那条线:能降级、能分流、能迁移的工作流,往往才是长期最便宜的选择。
参与讨论
暂无评论,快来发表你的观点吧!