01 详细解释
样本量从几万到几百万条不等,质量比数量关键:一条啰嗦、含糊的答案会被模型稳定学会。这一阶段决定模型的语气、格式习惯和拒答风格。
SFT 教的是「怎么答」,不教「答得对不对」。要让模型在难题上更准,还得靠偏好优化或强化学习。
用「问题 + 标准答案」的样本,教模型按指令回答。
本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正
样本量从几万到几百万条不等,质量比数量关键:一条啰嗦、含糊的答案会被模型稳定学会。这一阶段决定模型的语气、格式习惯和拒答风格。
SFT 教的是「怎么答」,不教「答得对不对」。要让模型在难题上更准,还得靠偏好优化或强化学习。
预训练、对齐、微调、蒸馏各有各的代价。看懂这组词,才能分清「知识量变了」还是「只是更听话了」,也才知道自己的业务该不该做微调。