单次推理能耗测量在预算中的实用步骤

预算编制中最容易被低估的一项，往往是单次推理的能耗成本。许多团队在评估 AI 项目总拥有成本时，会仔细核算 GPU 采购价或云实例费用，却把电力支出当作“反正不会差太多”的固定开销。实际上，当推理规模上量之后，电力成本会从边缘项变成显著影响 ROI 的变量。要在预算阶段就把它算清楚，关键在于把单次推理能耗从模糊的概念变成可测、可复用的数值。

第一步是建立能耗基准。最直接的做法是在测试环境中跑一次完整的推理流程，用功率检测工具记录 CPU 或 GPU 的平均功耗，再乘以推理时长，得到单次推理的千瓦时（kWh）消耗。如果硬件手册或供应商已经提供了功耗指标，可以直接采用；若拿不到精确值，则参考同类模型的公开能耗基准作为近似。需要留意的是，基准值应在接近生产负载的条件下测量，因为批处理大小、输入序列长度和模型量化程度都会显著影响单次推理的能耗，脱离实际场景测出的数字往往偏低。

第二步是统计评估周期内的总推理请求量。这一数据可以从日志或监控平台获取，也可以结合业务预测推算。将推理次数、单次能耗与当地电价三者相乘，即可得到总电力成本。这个框架的价值不在于算出精确到小数点后几位的数字，而在于它提供了可替换的变量结构——当业务量增长、硬件更换或电价调整时，只需更新对应参数就能快速迭代预算。

在对比云端推理与本地部署时，能耗测算的颗粒度差异需要格外注意。云端服务的计费通常按实例使用时长计算，电力成本已隐含在实例费用中，并包含数据中心整体的能源效率折算，因此单次推理的电力成本难以单独拆出，但胜在可预测性强。本地部署则直接面对硬件功耗，还需叠加机房 PUE、冷却系统和备用电源的额外消耗。若自建机房的能源管理水平一般，单位算力的电力成本往往高于云厂商；反之，若能实现较低 PUE 并利用可再生能源电价优惠，长期大规模运行时反而可能摊薄成本。

落地时建议先做敏感性分析：如果业务推理次数有明显的季节性波动，云端按秒计费的弹性容量更划算；若业务量稳定且规模庞大，则值得评估本地部署的折旧与能源成本能否摊薄。将估算结果代入两种方案的年度支出对比，比单纯比较硬件单价或实例价格更能反映真实成本差异。电力成本测算不必追求完美精确，但必须纳入预算模型——它决定了技术选型在长期运行中是否真的经济。