谷歌在 11 月 17 日为 Gemini 4 系列新增 xhigh 思考级别,使得推理档位扩展到 Low、Medium、High、xHigh 四档。类似设计也出现在其他厂商的模型上。对使用者来说,"想得更久"到底值不值,需要算清成本与质量的账。
档位控制的是什么
推理档位本质上控制模型在给出答案前投入多少"思考"——更多中间步骤、更长的推理链,通常换来更高的复杂任务正确率,但也带来更高延迟与 token 消耗。它不改变模型权重,而是改变单次调用的计算预算,这正是它比换模型更灵活的原因。
按任务选档,而不是一律拉满
- low / medium:分类、抽取、格式转换、简单问答等标准明确的任务,低档通常足够。
- high:日常编程、文档总结、一般分析,作为默认档位比较均衡。
- xhigh:复杂证明、多步推理、大型代码库排错等高难度任务,才值得为它付出额外成本。
测量,而不是猜测
据厂商披露,某些新模型在默认 high 档下的单任务成本已明显低于上一代,这会让"高档一定更贵"的直觉失效。正确做法是取一组代表性任务,分别跑不同档位,记录准确率、延迟与账单,找到自己的拐点。
结论
推理档位是性价比较高的调优手段。一个实用策略是:默认 high,仅对失败重试的请求升级到 xhigh,把额外算力花在真正需要的地方。
本文属于专题推理加速与成本9 篇全部专题 →
小7分享网