知识库问答效果不理想,很多团队的第一反应是"上 Agentic RAG"。但更常见的真相是:大部分 RAG 失败是检索失败,跟 Agent 没关系。按下面的顺序排查,性价比最高。
第一优先级:结构感知切分
按标题、章节、表格边界切分,而不是按字符数。每个 chunk 带上它的"上下文头"(比如"休假制度 › 产假 › eligibility"这样的路径),对检索质量影响极大。表格保持完整,用 10%–15% 的重叠兜住跨边界答案,512–1024 Token 是合理起点。
第二优先级:混合检索 + 重排
稠密向量加 BM25 关键词,用 RRF 融合;再用交叉编码器重排。有实践给出的结论很直接:纯向量搜索在 2026 年已被视为架构错误;混合检索加重排比单一方式高出 15–25 个百分点的答案准确率。检索时先"捞宽",再"收窄",只把最好的几段送进上下文。
第三优先级:元数据过滤(最被低估)
那个"引用了 2023 年就废止的政策"的事故,跟模型无关——旧文档还在索引里,且没有任何字段标记它过期。每个 chunk 都该带上生效日期、失效日期、所属部门、文档状态、访问级别。检索时先按这些过滤,再谈相似度。过期文档根本不该成为候选。
第四优先级:先建评测集,再调 Prompt
从真实用户问题里抽 100–200 条问答对,让懂业务的人过一遍,其中包含"系统应该拒答"的问题。然后分开测两件事:检索召回(正确的 chunk 有没有进候选集)和答案忠实度(模型有没有守着检索内容)。如果正确的 chunk 压根没被召回,调 Prompt 就是浪费时间。
什么时候才值得上 Agentic RAG
当问题需要多次查找或对比时(比如"对比三个地区的政策差异并给出建议"),多轮检索才值回票价。对单事实问题,调好的标准管线更快也更便宜。
小7分享网