01 详细解释
根因不是「模型撒谎」,而是它的工作机制是续写最可能的词,而不是查证事实。越冷门的问题、越具体的数字,越容易编。
四种有效缓解手段:把原文一起给它(RAG)、要求逐句给出处、把开放问答改成结构化抽取、关键结论人工复核。单纯在提示里写「不要编造」,几乎没用。
根因不是「模型撒谎」,而是它的工作机制是续写最可能的词,而不是查证事实。越冷门的问题、越具体的数字,越容易编。
四种有效缓解手段:把原文一起给它(RAG)、要求逐句给出处、把开放问答改成结构化抽取、关键结论人工复核。单纯在提示里写「不要编造」,几乎没用。
这些词几乎出现在每一篇入门材料里:token 决定成本,上下文窗口决定能塞多少,幻觉决定你敢不敢直接信。先把它们认全,后面读选型、读架构才不卡壳。
下面这些站点来自 AI 导航(nav.ppv9.com)的同一份工具清单,按本词条的相关度挑选。