01 详细解释
参数量决定模型的「容量上限」,但不直接等于能力:同样的 70B,训练数据质量和后训练配方能拉开很大差距。MoE 模型还要看激活参数——总参数 200B、每次只激活 20B,成本按激活算。
选型时更该看的是:在你自己的任务上跑一遍、首字延迟、每千 token 价格、以及能否私有化。
参数量决定模型的「容量上限」,但不直接等于能力:同样的 70B,训练数据质量和后训练配方能拉开很大差距。MoE 模型还要看激活参数——总参数 200B、每次只激活 20B,成本按激活算。
选型时更该看的是:在你自己的任务上跑一遍、首字延迟、每千 token 价格、以及能否私有化。
这些词几乎出现在每一篇入门材料里:token 决定成本,上下文窗口决定能塞多少,幻觉决定你敢不敢直接信。先把它们认全,后面读选型、读架构才不卡壳。
下面这些站点来自 AI 导航(nav.ppv9.com)的同一份工具清单,按本词条的相关度挑选。