01 详细解释
top-p 按概率从高到低累加,凑够 p 就截断,剩下的词直接排除。相比固定取前 k 个,它能在模型「很确定」时自动收窄候选,在「不确定」时保留更多可能。
它和温度作用在同一个环节,一般只调一个:要稳定就压低温度,要控制发散范围就调 top-p。两个一起大改,结果很难复现。
只在累计概率达到 p 的那部分候选词里抽样。
本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正
top-p 按概率从高到低累加,凑够 p 就截断,剩下的词直接排除。相比固定取前 k 个,它能在模型「很确定」时自动收窄候选,在「不确定」时保留更多可能。
它和温度作用在同一个环节,一般只调一个:要稳定就压低温度,要控制发散范围就调 top-p。两个一起大改,结果很难复现。
这些词几乎出现在每一篇入门材料里:token 决定成本,上下文窗口决定能塞多少,幻觉决定你敢不敢直接信。先把它们认全,后面读选型、读架构才不卡壳。