01 详细解释
把「答案 + 问题 + 评分标准」交给裁判模型,让它输出 1–5 分或 A/B 优劣,用来批量评估上百个提示词版本。
它有明显偏好:偏爱长答案、偏爱自己熟悉的表达、对同族模型打分偏松。所以要用校准集和人工抽检对齐,评测报告里也要写清裁判是谁。
用另一个模型按量表给回答打分,替代部分人工评测。
本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正
把「答案 + 问题 + 评分标准」交给裁判模型,让它输出 1–5 分或 A/B 优劣,用来批量评估上百个提示词版本。
它有明显偏好:偏爱长答案、偏爱自己熟悉的表达、对同族模型打分偏松。所以要用校准集和人工抽检对齐,评测报告里也要写清裁判是谁。
同一批 200 个回答,让裁判按「事实准确 / 有用 / 简洁」各打 1–5 分。
先用 50 条人工标注校准裁判,再放到大规模评测里,别直接信绝对分数。
「跑分高」和「好用」之间隔着一条鸿沟。这组词帮你看懂分数怎么来的、评测集有没有被污染,以及攻击是从哪进去的。
下面这些站点来自 AI 导航(nav.ppv9.com)的同一份工具清单,按本词条的相关度挑选。