SFT监督微调的原理与适用场景

SFT（监督微调）的本质，是在预训练模型之上，用成对的"输入—示范输出"数据做有监督训练，把模型已有的语言能力对齐到特定的行为模式上。它塑造的是表达方式、任务格式和回答风格，而不是凭空创造能力。理解这一点，是判断其适用边界的前提。

原理：用示范分布约束输出行为

预训练阶段模型学到的是"续写文本"的通用能力，行为分布很宽，同样的指令可能得到风格迥异的回答。SFT 以人工编写或筛选的标准答案为监督信号，通过不断缩小模型输出与示范之间的差距来调整参数，相当于在宽泛的分布上施加条件约束，让输出收敛到示范所定义的风格和结构里。因此，数据质量远比数量关键：几百条干净、一致、覆盖典型场景的示范，通常比几万条含噪声的数据更有效。把复杂任务拆解为分步示范，也能明显降低模型的学习难度——先教切菜，再教调味。

适用场景与失效边界

SFT 最适合解决三类问题：

• 风格与格式对齐：统一回答的语气、结构、详略程度，例如"简洁、有礼貌、带实例"。




• 特定任务模式固化：如客服问答、结构化输出、领域术语的规范表达。




• 行为纠偏：把模型常犯的错误样例连同正确做法一并放入训练集，让模型学会规避。

边界同样清晰。示范只能教模型"怎么答"，教不了它原本不具备的"答什么"，指望靠微调灌输全新知识往往会失望。当训练数据与真实使用场景分布不一致时，典型症状是模型自信地答非所问；数据量小且训练过度时则容易过拟合——训练集上表现完美，真实对话中却崩溃。应对手段是保持验证集严格、必要时早停，并用换种表达问同一问题的方式检验回答的一致性与鲁棒性。

实践层面，从 100 到 1000 条高质量示例起步是合理的实验规模：先小步验证风格是否收敛、错误是否减少，再决定是否扩充数据。SFT 的价值从来不在于规模，而在于示范是否精确地定义了你想要的行为。