01 详细解释
预训练只教会模型续写,指令遵循是后训练(SFT + 偏好对齐)加上去的:把「请只输出 JSON」「不超过 100 字」「不要解释」这类约束当成必须满足的条件。
它和「答得对」是两件事。一个模型可以知识很强但总爱多写两段,也可以在长上下文里把格式要求忘掉。评测时通常单独测约束满足率,而不是只看答案内容。
模型按用户要求办事的能力:听懂约束、遵守格式、不擅自加戏。
本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正
预训练只教会模型续写,指令遵循是后训练(SFT + 偏好对齐)加上去的:把「请只输出 JSON」「不超过 100 字」「不要解释」这类约束当成必须满足的条件。
它和「答得对」是两件事。一个模型可以知识很强但总爱多写两段,也可以在长上下文里把格式要求忘掉。评测时通常单独测约束满足率,而不是只看答案内容。
要求「只返回城市名,不带解释」,模型回「北京」而不是「根据描述,答案是北京。」
格式约束写具体(字段名、类型、枚举),并在代码里做一次解析校验,别全靠模型自觉。
这些词几乎出现在每一篇入门材料里:token 决定成本,上下文窗口决定能塞多少,幻觉决定你敢不敢直接信。先把它们认全,后面读选型、读架构才不卡壳。