01 详细解释
推理模型的思考长度不固定,简单题几十 token,难题上万。思考预算给你一个上限:超了就强制收尾进入作答。
它是成本与质量的旋钮:日常问答调到低档,复杂任务放开。配合提示词「这题很简单,直接答」也有效,但不如参数控制稳定。
限制推理模型在内部思考上最多花多少 token。
本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正
推理模型的思考长度不固定,简单题几十 token,难题上万。思考预算给你一个上限:超了就强制收尾进入作答。
它是成本与质量的旋钮:日常问答调到低档,复杂任务放开。配合提示词「这题很简单,直接答」也有效,但不如参数控制稳定。
同样一个模型,费用能差十倍,差别全在缓存、批处理、量化、并行和让它想多久。做容量规划、选部署方式、谈单价,都绕不开这几个词。