企业 RAG 为什么答非所问：先修检索，再调提示词

行业观察 · AI

先判断问题属于哪一层

企业接入检索增强生成后，常把答案不准确归结为提示词不够详细。但生成模型只能围绕拿到的材料组织回答。如果检索结果缺少关键限制，或者混入过期规则，继续增加回答指令可能只是让错误显得更完整。排查应沿着问题、检索材料、最终答案逐层展开。

可以选取一组真实业务问题，让业务人员先标出应当引用的文件和段落，再检查系统有没有找到这些内容。若正确材料没有进入候选集，应优先处理搜索；若材料已经完整出现而答案仍然遗漏条件，才进入生成环节。

这一步还能发现知识本身的缺口。例如报销政策只写了通用额度，却没有解释跨部门项目如何分摊。系统无法靠调整参数补齐尚未形成的制度，需要把问题交给知识负责人确认。

若知识来源还包括跨地区公开网页，采集环节可以按实际需求评估动态代理，用于核对不同出口看到的内容。所谓纯净IP应结合来源、信誉记录及目标网站的实际访问结果判断，不能等同于内容可信，也不是 RAG 正确回答的保证。

切分文档要保留业务关系

按固定字数切分容易把定义、适用范围和例外条款拆开。对于制度文件，可以围绕一个完整规则组织片段，并附上所属章节、文件版本和适用对象。表格则需要带上列名及单位，避免检索结果只剩一个无法解释的数字。

片段过大同样存在问题：相关内容被大量背景材料包围，既增加处理量，也妨碍核对。更合理的方式是先检索较小的主题单元，再根据命中位置补充必要的上下文，而不是机械地扩大所有片段。

检索结果还应区分“主题相近”和“能够回答”。一份提到采购的宣传材料，不能代替采购审批制度。文件类型、业务标签和生效状态应参与筛选，而不能只依赖文字相似程度。

把更新和权限放进检索流程

知识库更新不等于上传新文件。旧版本是否继续可见、何时失效、已经建立的索引怎样刷新，都需要明确。对变化频繁的内容，可以在答案中显示依据版本和更新时间，帮助读者判断它是否适用于当前任务。

权限也不能只在页面入口判断。检索应根据当前用户可访问的文档范围取数，生成阶段使用的材料也应处于同一范围。否则界面虽然隐藏了文件入口，答案仍可能把文件内容重新表达出来。

缓存需要遵循相同的边界。给一个部门生成的答案，不能因为问题文字相同，就直接复用给另一个部门。缓存键至少应考虑知识版本与访问范围，具体粒度再根据系统权限模型确定。

用可核对的失败案例推动改进

验收时不要只看回答是否流畅。应记录正确证据是否被找到、引用是否支持结论、例外条件是否保留，以及材料不足时系统有没有说明限制。这些项目比一个笼统的满意度分数更容易指向具体修复动作。

每次调整切分、索引或提示词，都应重跑同一组问题，并额外检查此前正常的场景。对于找不到依据的问题，允许系统提供查询方向或转交人工，比强行拼出完整答案更符合知识工具的定位。

本文的判断是，企业 RAG 的核心价值在于把回答与可管理的知识依据连接起来。只有检索、版本和权限能够被验证，语言表达能力才能稳定地转化为业务帮助。

延伸阅读：AI 客服处理代理问题：从纯净IP咨询到连接故障交接。如需选择访问方式，可查看代理产品介绍，并使用代理连接检测工具核对配置。