监管机构如何评估AI模型的可解释性?

监管机构评估 AI 模型的可解释性，并不是简单要求模型“说得清楚”，而是要判断：模型为何作出某项决策、解释是否稳定可复现、过程能否被审计，以及相关结论能否向受影响的个人或企业说明。在信贷审批、反欺诈和保险定价等高影响场景中，可解释性通常与可审计性、可追溯性和公平性同时被审查。

监管关注的四个维度

首先是决策解释。机构应能够说明关键特征对结果的影响方向和相对贡献，而不是只给出一个风险分数。其次是过程留痕：特征处理、模型训练、推理输入、解释生成和版本变更，都应形成完整记录。再次是解释一致性，同类样本在相近条件下不应出现难以说明的解释差异。最后是公平与可申诉性，解释不能借助性别、地区等敏感属性进行隐性歧视，用户还应获得基于核心因素的可理解说明。

因此，监管评估的对象并非某一张特征重要性图，而是一套贯穿模型生命周期的证据链。模型上线前，需要验证解释方法与业务逻辑是否一致；运行中，要监测数据变化、解释漂移和异常决策；发生投诉或审计时，则必须能够还原具体样本的决策路径。

技术解释不等于合规解释

LIME 和 SHAP 都可以用于解释黑盒模型，但两者回答问题的方式不同。LIME通过目标样本附近的扰动数据拟合局部代理模型，计算相对轻量，却可能受扰动方式影响；SHAP依据特征边际贡献分配解释结果，更适合形成结构化报告，但计算成本可能更高。资料显示，同一笔贷款使用两种方法时，可能分别突出“负债收入比”和“企业年龄”，解释一致性仅处于0.5至0.65之间。

这意味着，监管机构不会仅因机构使用了某种解释工具，就认定模型透明。真正关键的是：解释方法是否经过验证，结果是否可复现，报告是否保留方法版本与输入数据，业务人员和用户能否理解其含义。机构还应将全局特征贡献、单笔决策解释和异常样本回溯区分开来，避免用一张全局图表替代个案说明。

较稳妥的治理方式，是在研发和推理流程中统一解释模块，建立分层报告与审计日志，并定期比较不同解释器的结果。当解释出现显著冲突时，应先检查特征处理、数据分布和模型漂移，再决定是否调整解释器或重新训练模型。可解释性由此不再是模型上线后的补充材料，而是决定模型能否持续使用的治理能力。