你把公司文档、FAQ、产品手册存进一个"资料柜"。客户问问题,AI先去资料柜里翻相关段落,再基于这些段落组织回答。
类比:开卷考试。AI不知道答案没关系,会翻书就行。
你准备几千条"问题→标准答案"的对话,拿去训练大模型,让模型本身学会怎么按你的风格回答。
类比:闭卷考试。把AI送去培训班,让它把你的答题风格背下来。
| 对比项 | RAG | 微调 |
|---|---|---|
| 解决什么问题 | 知识问答、查资料 | 风格模仿、固定格式 |
| 数据量要求 | 几十份文档就行 | 至少几千条标注对话 |
| 上线时间 | 1-2周 | 2-3个月 |
| 成本 | 低(几千-几万) | 高(2-5万起) |
| 更新知识 | 加文档就行,几分钟 | 要重新训练,几天到几周 |
| 幻觉问题 | 较少(基于资料答) | 可能更严重(背错了) |
| 回答风格 | 通用,不够像你 | 能学到你的语气 |
| 可解释性 | 高(能指出来自哪段) | 低(黑盒) |
| 技术门槛 | 低 | 高 |
| 适合场景 | 客服、知识库、文档问答 | 特定格式输出、风格化生成 |
下面这些场景,用RAG就够了:
这些都是"查资料"问题,RAG天然适合。
下面三个场景,RAG确实解决不了,才考虑微调:
比如要AI输出固定格式的JSON、固定模板的合同摘要、固定字段的报表。RAG靠prompt约束不稳,微调后模型能稳定输出格式。
比如电商客服要按你内部的"退换货规则矩阵"判责,规则错综复杂。RAG检索出来的片段不一定全,微调后模型把规则背下来了。
知识库也建了、切片也调了、prompt也优化了,准确率还是上不去。这时候可以试试微调,让模型学你这几百条标准答案的模式。
| 项目 | RAG | 微调 |
|---|---|---|
| 数据准备 | 整理文档,1-2周 | 标注几千条对话,1-2月 |
| 技术开发 | 1-2万 | 3-8万 |
| 训练成本 | 0 | 几千到几万 |
| 知识更新 | 几分钟 | 几天到几周 |
| 年总成本 | 约2-5万 | 约5-15万 |
RAG是给AI一本资料书,让它回答时翻书;微调是把你的案例喂给AI训练,让它学会你的说话风格。本质不同。
RAG。知识库问答、客服、文档检索,RAG又便宜又快又准。微调只有特定场景才需要。
三类:要固定输出风格/格式、要学复杂业务规则、RAG怎么调都不准的。
用开源模型微调,数据准备+训练+调试约2-5万;用商用API微调,按token收费。比RAG贵3-5倍。
能。RAG解决知识问题,微调解决风格问题。但先做RAG,跑不通再考虑微调。