直接回答:RAG准确率提升有7个方法,按顺序做——数据质量治理、切片策略、Embedding选型、混合检索、重排序、提示词工程、评测闭环。前3个是地基,中2个是提分关键,后2个是放大镜。按这套顺序走,大多数知识库能从80%提到95%。
先说结论:不要一上来就换大模型或加花活。RAG 90%的准确率问题出在数据环节和检索环节,模型只是最后一步。
这是最被低估的一步。文档脏、命名乱、版本旧、内容重复,检索出来的东西再对也是垃圾进垃圾出。
落地步骤:
① 清洗:去掉页眉页脚、水印、乱码,统一格式;
② 去重:同一内容多个版本只留最新,避免答案冲突;
③ 标注:给关键文档打标签(产品名、时间、适用范围),检索时可按标签过滤。
切片是RAG最影响准确率的环节。切太大,混入无关信息;切太小,答案上下文不够。
落地步骤:
① 按语义边界切:标题、段落、列表是天然边界,不按固定字数硬切;
② 切片大小:一般300-500字/片,技术文档可800字;
③ 加重叠:相邻切片重叠50-100字,防止答案被切成两半;
④ 重要内容单独成片:FAQ、规格参数、价格表,一条一条独立切片。
更细的切片要点可参考《RAG文档怎么切片?300-500字黄金区间》。
向量模型决定"语义理解"的底子。通用模型对专有名词、行业术语理解差,检索不到就是白搭。
落地步骤:
① 优先中文优化过的向量模型,或用和你行业接近的微调模型;
② 换模型后必须用评测集重测,别只看演示效果;
③ 维度不是越高越好,768-1024维对大多数场景够用。
向量检索擅长语义,关键词检索擅长精确匹配。两者取并集再融合排序,专有名词(型号、人名、代码)命中率大幅提升。
落地步骤:
① 同时跑向量检索和BM25关键词检索;
② 取前N条并集,用加权分数(如0.7向量+0.3关键词)融合;
③ 行业术语多的场景,关键词权重可提到0.5。
先粗召回再精排:向量检索召回Top-50,重排序模型精排取Top-5给大模型。这一步能过滤掉大量不相关片段,直接提升回答质量。
落地步骤:
① 召回阶段把top-k调大(如50);
② 接入Rerank模型对候选片段打分;
③ 取精排后Top-5拼接进提示词。
注意:重排序只放大召回质量。前置切片、Embedding没调好,重排序也没用。
同样一堆文档,提示词写得清不清楚,回答差一个档次。关键是让模型"只依据给定文档回答"。
落地步骤:
① 明确指令:只基于检索到的文档回答,不编造;
② 给出处:回答时标注引用了哪份文档,方便溯源;
③ 拒答规则:文档里没有的,明确说"知识库中没有相关信息",不硬编。
没有评测就没法迭代。建一个固定评测集,每次改动跑同一套题,数字说话。
| 指标 | 含义 | 达标线 |
|---|---|---|
| 命中率 | 该找的文档是否被检索到 | ≥90% |
| 正确率 | 回答与标准答案是否一致 | ≥90% |
| 拒答率 | 不知道时是否拒绝而非瞎说 | 越高越好 |
落地步骤:建50-100条评测集(真实用户问题+标准答案+应命中文档)→ 每次改动跑全量 → 记录三个指标 → 只保留提升的改动。
| 阶段 | 方法 | 预计提分 | 时间 |
|---|---|---|---|
| 地基(先做) | 数据治理 → 切片 → Embedding | 20-40% | 1-4周 |
| 提分(重点) | 混合检索 → 重排序 | 10-25% | 2-4周 |
| 放大(持续) | 提示词 → 评测闭环 | 5-10% | 持续 |
核心建议:从80%到95%不需要魔法,需要的是按顺序把7个方法挨个做一遍,每一步都用评测集验证。想先判断你的RAG值不值得优化,可以先过一遍五问评估法。
先做数据质量治理:文档干净、命名规范、去重去旧,再把切片策略调对。数据不干净,后面所有环节都在错误的地基上优化,准确率卡在80%上不去。
建一个50-100条的评测集,每问配标准答案和应命中的文档,跑一遍算三个指标:命中率(该找的文档找到没)、正确率(回答对不对)、拒答率(不知道时会不会瞎说)。每次改动跑同一套题对比。
先查前置环节:召回数量太少(top-k设小)、Embedding和检索方式不匹配、切片把答案切碎了。重排序只在召回结果质量合格时才有用,前置没修好,重排序只是放大垃圾。
混合检索=关键词检索+向量检索取并集再排序,处理专有名词(型号、人名、代码)很有效。不是必须,但如果你的知识库专有名词多、经常检索不到,强烈建议做,通常提升5-15个百分点。
数据治理+切片调优1-2周,Embedding换型+混合检索2-4周,重排序+评测闭环持续迭代。正常节奏是3-6周从80%提到90%以上,前提是每步都按评测集验证,别凭感觉调。
你的RAG知识库准确率卡在多少?想先评估一遍值不值得优化?
免费做一次RAG健康体检我们提供 企业私有知识库/智能问答系统开发 —— 源码交付、私有化部署,先看成品再谈合作。