01 详细解释
分两层:行为对齐(有用、诚实、无害,靠 SFT 与偏好优化实现)与价值对齐(长期目标不偏离人类利益,仍是开放问题)。
工程上常说的对齐,多指第一层:拒答该拒的、不输出有害内容、不谄媚。代价是可能过度拒答,或为了「安全」牺牲一部分能力。
分两层:行为对齐(有用、诚实、无害,靠 SFT 与偏好优化实现)与价值对齐(长期目标不偏离人类利益,仍是开放问题)。
工程上常说的对齐,多指第一层:拒答该拒的、不输出有害内容、不谄媚。代价是可能过度拒答,或为了「安全」牺牲一部分能力。
预训练、对齐、微调、蒸馏各有各的代价。看懂这组词,才能分清「知识量变了」还是「只是更听话了」,也才知道自己的业务该不该做微调。
下面这些站点来自 AI 导航(nav.ppv9.com)的同一份工具清单,按本词条的相关度挑选。