视觉系统该监控哪些漂移指标?

只监控一条总体误报率,几乎注定会漏掉真正的退化过程。这个指标会被业务量、人工抽检比例和类别占比同时影响,业务波动就足以让它上下浮动;而模型性能退化往往是渐进的,等到总体指标明显变差,偏差可能已经积累很久。更可靠的做法是把监控拆到漂移真正发生的几个层面——采集端、标注口径、样本分布、模型输出——并让每类指标能指向一个明确的责任方。

采集端的指标最容易被忽略,却最常解释突发异常。相机在线状态、采集帧率、曝光与图像质量相关日志应当作为常规监控项,而不是出问题后才去翻。除此之外,还要监控画面构图本身是否稳定:目标是否仍落在原有区域,背景中是否进入了新的干扰物,目标边缘是否更频繁被遮挡。支架松动、镜头重新对焦、镜面污染、视角偏移都会改变目标在画面中的尺度与位置,对依赖固定工位和固定背景训练的模型尤其敏感。光照类指标建议按时段与班次分组观察,因为自然光角度、灯具开关策略、补光衰减和反射面变化带来的偏差通常呈周期性,而不是随机分布。

标注一致性属于监控指标,不只是流程问题

误报统计依赖人工复核,人工复核依赖标注规则,因此复核环节本身就是一个会漂移的测量工具。值得长期跟踪的是多人复核的一致率和分歧原因分布:同一批样本在不同复核人员之间频繁得出不同结论,说明规则未能覆盖模糊边界,此时统计口径上的误报上升未必对应模型输出恶化。审核团队更换、可接受范围调整、新增外观形态,都应作为可追溯的变更事件记录下来,与指标曲线对齐。弱光、反光、遮挡和目标不完整的画面里,人工判断本身就不稳定,这类样本的占比也值得单独盯。

输出侧要看分布形态,而不只是数量

模型侧日志中,置信度分布的形态比误报总量更有诊断价值。大量误报集中在高置信度输出,通常意味着模型把新场景中的某种特征当成了旧类别的强信号;结果大量聚集在阈值附近,更可能是阈值策略、样本质量或边界定义的问题。两者的处置方向不同,不能靠统一上调或下调阈值应对。类别混淆模式同样需要持续观察,它能提示是哪一对类别的边界正在松动。与之配套的是样本构成指标:按业务类别、设备位置、目标大小、画面清晰度、时间段和典型外观特征分组,观察异常期是否出现新的集中模式,例如一种新材质、某类反光表面或某种此前很少出现的姿态。

把这些指标组织起来的关键,是保留一个稳定运行期作为对照,并把模型版本、推理服务版本、阈值与后处理规则的发布记录、现场维护记录一起放在同一条时间线上。关键类别的误报、漏报、人工复核覆盖情况和样本特征变化同时可见,才能区分整体同步上升与局部上升,也才能在指标异动时判断该找现场、找数据还是找算法。监控体系的目标不是提前预言退化,而是在信号出现时让证据链已经就位。

参与讨论

0 条评论

延伸阅读