配置写的是混合检索,跑的是稠密
业务知识到底该塞进模型权重,还是放在检索里? 简单说,微调改的是模型怎么说话,检索管的是它此刻说的事真不真。 这话我讲过一次。再讲,是因为前几天 dev.to 上又出了一篇,论点是很多团队把"模型不懂业务"误判成"得微调",该先去修索引。三种失败模式,一套推荐流程。写得挺整齐。 那篇本身没什么可转述的。
业务知识到底该塞进模型权重,还是放在检索里? 简单说,微调改的是模型怎么说话,检索管的是它此刻说的事真不真。 这话我讲过一次。再讲,是因为前几天 dev.to 上又出了一篇,论点是很多团队把"模型不懂业务"误判成"得微调",该先去修索引。三种失败模式,一套推荐流程。写得挺整齐。 那篇本身没什么可转述的。
Rafael Pierre 六月在 Lighthouse newsletter 上发了篇东西,标题大意是:很多团队把 RAG 系统 overcomplicate 了——先上 embedding、上向量库、上 reranking,再做一堆增量优化,结果用户只是想要精确地找到一篇文档。
