提示词、RAG还是微调?给AI补知识的三种方式怎么选

想让 AI 更懂你的业务,市面上流传着三条路:优化提示词、做 RAG(检索增强生成)、微调模型。很多团队在这三个词之间反复纠结,甚至花几周争论“该用哪个”,结果项目还没启动就输在了选型上。其实这个选择题没那么玄——关键在于先分清你的需求是“补知识”还是“教行为”。数据说明一切:Menlo Ventures 对六百家企业技术决策者的调研显示,生产环境中 RAG 的采用率达 51%,而微调只有 9%。这不是说微调没用,而是说大多数业务问题用错了工具。这篇文章把三条路的原理、成本与适用场景一次讲透。

先记住一个总原则:RAG 管“知道什么”,微调管“怎么表现”

三条路的本质差别是“知识住在哪里”。提示词工程:知识写在每次提问的上下文里,用完即走;RAG:知识存在外部知识库(文档、向量数据库)里,提问时实时检索相关片段注入提示词,模型参数一动不动;微调:用你的数据继续训练模型、修改它的权重,让知识或行为“长进模型里”。业内反复强调一个常被误解的事实:微调不是用来添加事实性知识的——它是用来教行为(语气、格式、任务模式)的。把产品文档拿去微调,指望模型“记住”文档细节,结果往往是模型吸收了统计规律后,自信地编造出文档里根本不存在的细节——这是最常见的翻车姿势。

提示词工程:最便宜,但天花板最低

提示词工程的成本几乎为零:一个 API 密钥加一段精心设计的指令(角色、背景、示例、输出格式)就能跑起来,改动即时生效,最适合快速验证想法。它的天花板也很明确:受限于上下文窗口,塞不进海量知识;无法给模型补充训练数据之外的新事实;输出稳定性依赖提示词质量,措辞稍变结果就可能漂移。判断标准很直接:任务能用几句话解释清楚、靠常识能回答、能接受一定波动——那就用提示词。如果你的知识库有几百页且经常更新,提示词这条路走不通,别硬撑。

RAG:把知识“外挂”给模型,可溯源、更新便宜

RAG 的流程是:用户提问后,系统先从知识库(通常经向量数据库做语义检索)找出相关片段,连同问题一起交给模型生成答案。它有三个不可替代的优势:第一,知识可以随时更新——政策改了、价格变了,更新文档即可,无需重新训练;第二,答案可溯源——可以要求模型引用来源,这对法务、医疗、客服等“必须说得出依据”的场景是刚需;第三,落地快,一至三天就能搭出原型。代价是需要维护知识库与检索质量(切片、召回、重排都要调优),且每次查询要多花检索与上下文 token 的成本。凡是“答案取决于经常变化的事实”的场景——内部制度问答、产品支持、政策查询——RAG 都是默认首选。

微调:教行为、提效率,但贵且慢

微调通过大量“输入—期望输出”样例继续训练模型,让它在特定任务上形成稳定风格与格式:统一的客服话术、固定的报告结构、特定的领域术语与推理套路。好处是模型行为高度一致,提示词可以更短、推理成本更低;代价也最高——要准备几十上百个高质量样例(质量胜过数量,几百个精样例好过几千个平庸样本)、要花一至四周训练调试、要防过拟合,知识一变就得重训。所以微调适合“请求量大且形态稳定”的场景:批量生成标准化文档、统一品牌腔调的营销文案、固定格式的数据抽取。它和 RAG 不是对手,最强系统往往两者兼用:微调负责“怎么说”,RAG 负责“说什么”——比如客服机器人,微调教会它礼貌、简洁、符合规范的话术,RAG 提供最新政策与产品信息,再让每次回答都基于可核验的文档。

决策四问:三十秒判断该走哪条路

  • 一问:答案依赖经常变化或专有的事实吗?是——RAG;否——继续往下问。
  • 二问:回答需要可溯源、可核验吗?是——RAG(微调无法提供引用来源)。
  • 三问:你真正缺的是稳定风格和格式吗?是——考虑微调。
  • 四问:预算、人力和时间够吗?提示词最快最省,RAG 居中,微调最重——从轻到重逐步升级,永远是性价比最高的路径。

案例:同一个客服机器人,两种命运

两家公司同时做客服问答机器人。A 公司把几百页产品手册直接拿去微调,训练两周上线,结果模型对“退货政策是几天”“某功能是否支持”这类事实问题答得流畅却错误百出——因为它学的是统计模式,不是查文档。A 团队又花两周补数据重训,成本翻倍,问题依旧,最后推倒改做 RAG。B 公司则走了组合路线:用几百条优质对话样例微调出一个“话术层”,让回复语气统一、结构规范;同时把产品手册、政策文档接进 RAG 知识库,所有事实性回答都基于检索内容并附来源。上线后 B 的准确率与用户满意度明显占优,政策更新时只需替换文档,十分钟生效。选型错误的代价,往往不是多花两周,而是让团队对 AI 失去信心。

常见误区

  • 误区一:用微调“教模型记住文档”。微调教行为,RAG 才管事实,顺序搞反必然翻车。
  • 误区二:一上来就上最重的方案。先用提示词验证,再按需升级,多数场景根本走不到微调。
  • 误区三:以为 RAG 开箱即用。切片粒度、检索质量、重排策略都影响效果,知识库本身需要持续维护。
  • 误区四:忽视数据安全与合规。敏感数据交给外部 API 前,先想清楚数据出境与隐私边界。
  • 误区五:把三者当“单选题”。真实系统多是组合拳:提示词定框架、RAG 供知识、微调调风格。

行动建议

下次立项时,先花三十分钟回答决策四问,把结论写进方案:需求是“知识型”还是“行为型”?知识多久变一次?回答要不要给依据?然后从最轻的方案开始——先用提示词加示例跑通流程,把文档接成简单的 RAG 验证效果,确认风格一致性成为瓶颈时再考虑微调。记住一句话:技术选型的终点不是“用了最新技术”,而是“问题被最划算地解决”。

标签:#, #, #