啥时候上RAG？啥时候上微调？丨实战笔记
啥时候上RAG？啥时候上微调？丨实战笔记 关注 作者 关注 作者 关注 作者 关注 作者 2025/07/02 01:05
fortunetigerdemográtis a5game.app 爱壹帆电影 yfsp.app
哈喽，大家好👏
我是阿星！
现在很多AI科普文章都会提到微调，RAG。 iyf yfsp.app
但是没有实战的过的同学可能会问🤔—— 爱壹帆电影yfsp.app slotpix a5game.app
啥时候用RAG？啥时候用微调呢？有啥区别？不都是让模型增加知识面的吗？ 爱壹帆寻秦记yfsp.app sweetbonanza1000demo a5game.app
今天我们就对这个问题进行粗略归类—— slot a5game.app
关于微调
你可以简单理解为在预训练之后（预训练你可以简单理解成自监督学习，得到一堆参数但是还不会自己回答） 一帆视频yfsp.app sugarrush1000demo a5game.app
——进行的一些QA对训练，来教会模型组织语言，回答问题。 slotsdemo a5game.app JogodoTigrinho a5game.app jogodotigrinhodemo a5game.app 爱壹帆影视yfsp.app
但是要注意微调是没有对知识样本做扩充的，扩充还是通过预训练完成的。 slotdemo a5game.app iyifanyfsp.app fortunedragon demo a5game.app
微调之后才是基于人类反馈的强化学习。 tigrinhodemo a5game.app sugarrush1000demo a5game.app
jogosdemopg a5game.app ifun yfsp.app
简单说就是预训练👉微调👉强化学习，微调是中间这个环节。 demo a5game.app
不同微调之间有啥区别？
1、继续预训练-CPT：来增加知识、能力。补充模型在特定领域的缺陷。
2、微调训练-SFT：给模型更多的QA对，来增强模型的依从性。常用于垂直大模型。这是现在最主要的方式。 pgslotgacor a5game.app demotigrinho a5game.app
3、偏好调优-DPO：用负反馈优化输出，让模型知道不能干啥，啥是错的。
但是没事也不用微调，不要听到别人说微调自己也想微调……有很多已经调好的，可以去百炼云上看😂我之前也写了一篇可以体验简版流程，实际比这个难n倍。零基础也能体验模型微调！魔塔+LLaMa Factory手把手教程 slots a5game.app 免费在线影院xiaobaotv.video
没有必要，千万别微调
优先级可以按照提示词大于RAG大于微调。 a5game a5game.app
1、针对特定行业/领域，如果模型根本就不具备特定知识，你可以用继续预训练-CPT。只不过数据上很多是1500万字起步（下一篇推送会讲讲微调的数据质量要求有多可怕） 小宝影院在线视频xiaobaotv.video 足球比分 a5game.app 爱壹帆国际版 yfsp.app
2、针对特定问题，微调训练-SFT可以用RAG、提示词、示例来做一些代替。因为SFT对数据质量要求要比RAG高，可以选择不那么折腾直接上RAG
小宝影院xiaobaotv.video pglucky88 a5game.app plataformademográtis a5game.app
3、至于偏好调优-DPO，你可以选择用提示词示例。因为错误答案本身就对数据的要求更多了。你要枚举多少回答来让模型记住啥是错的？ 爱壹帆免费版yfsp.app nba比分 a5game.app
啥时候必须上微调
再好的提示词都有输出上的出入，如果是垂直指定的问题，你要求它回答的丁是丁卯是卯，那还是用微调最好。特别是金融和医疗。
pragmaticplay a5game.app ifun yfsp.app ifuntvyfsp.app
1、比如在履职问题测评中，你需要对问题做严格分类，查询特定的数据库，也可能涉及到指定的关键词。说白了就是场景足够垂直。 小寶影院xiaobaotv.video
海外华人视频网xiaobaotv.video tigrinho gratis a5game.app
2、高并发任务、对效率要求极高的场景，可以通过微调加速响应。 demo a5game.app
比如对即时主观题打分，就会需要快速响应来适应考试节奏等。 爱壹帆在线yfsp.app 小寶影院电影xiaobaotv.video
fortunetigerbônusgrátissemdepósito a5game.app
3、特别是端侧，很多服务都需要云端判断，对定向场景需要的就是速度和准确度，离不开微调。 一帆yfsp.app
下一期我们详细说说微调有多麻烦。我是阿星，我们下期再见。 爱壹帆yfsp.app pragmatic a5game.app
pg a5game.app 小宝影院电影xiaobaotv.video
往期文章： 小宝影院xiaobaotv.video
超酷！苹果最新开源摄像头会看的AI，fastvlm视觉模型真机实测 fortuneoxdemográtis a5game.app 寻秦记爱壹帆yfsp.app
n8n教程：5分钟部署+自动生AI日报并写入飞书多维表格 Caça-níqueis a5game.app Cassinos a5game.app
xiaobao xiaobaotv.video plataformademo a5game.app ifvodyfsp.app aiyifan yfsp.app
爱一番yfsp.app plataformademográtis a5game.app
00目录 0