01 详细解释
温度改变的是候选词概率分布的陡峭程度。设为 0 时模型几乎总选概率最高的词,同样输入基本得到同样输出;设到 1 以上,冷门词也有机会被选中,文字更有变化,也更容易跑偏。
经验值:抽取、分类、代码用 0–0.3;改写、文案用 0.7 左右;头脑风暴可以到 1.0。同一任务要做对比测试,先把温度固定住,否则测的是噪声。
温度改变的是候选词概率分布的陡峭程度。设为 0 时模型几乎总选概率最高的词,同样输入基本得到同样输出;设到 1 以上,冷门词也有机会被选中,文字更有变化,也更容易跑偏。
经验值:抽取、分类、代码用 0–0.3;改写、文案用 0.7 左右;头脑风暴可以到 1.0。同一任务要做对比测试,先把温度固定住,否则测的是噪声。
这些词几乎出现在每一篇入门材料里:token 决定成本,上下文窗口决定能塞多少,幻觉决定你敢不敢直接信。先把它们认全,后面读选型、读架构才不卡壳。