速评:三个检索技术各自单独测,预测能加 47%;塞进同一条管线一起跑,只剩 17%。
问题不在哪个技术不够硬。是“提升 X%”这个计价单位本身通胀了。
10 月 21 日挂上 arXiv 的《Retrieval Augmented Generation Compositionality》,三个作者,450 种配置、8 个基准,语料从 5 千篇文档一路铺到 20 万篇。主分类 cs.CL,交叉挂 cs.AI,DOI 那栏标着 DataCite 待注册。这行元数据先记着,后面有用。
这套论文生产线的流程我见过太多轮。RAG 火了之后标准姿势是:挑一个 baseline,加一个模块——重排、查询改写、上下文压缩、agent 式验证——然后在自己那个测试集上报一个提升。审稿人看的是“比 baseline 强”,不是“把这东西放别的东西旁边还强不强”。两年下来,一堆 +8%、+12%、+15% 攒在引用列表里,从来没人问过它们能不能相加。
这篇论文问的就是这一句。
47 变 17 这个落差,机制上我的猜测很朴素:这几种检索技术其实在干同一件事,都在往 context window 里塞“更对”的那几段,塞到某个点就饱和了,再往上加只是重复劳动外加噪音。作者没这么解释,这是我的判断,从 450 组配置的分布反推的——附录 68 张表我并没有看完,所以这话先撂在这儿,算个待验证的猜测。
450 这个数字本身也该被问一句。组合空间那么大,47 和 17 是两个孤立的点,还是两条曲线上的两个采样?9 页正文装 450 组实验,剩下 94 页全是图和表——这个材料结构说明作者自己也清楚正文装不下。这不是挑刺,是这套实验的透明度决定了别人能不能复现那个 17。
第二个发现比第一个更值得说:检索质量和答案忠实度的增益不按同一个方向叠加,优化其中一个经常坑另一个。做过 RAG 的都碰过那个瞬间——检索里多塞两段原文进去,模型开始整句照抄,忠实度指标上去了,答案读起来像复印件。这个取舍在工程现场是日常,摆到论文摘要里倒确实是头一回。学界把它量化是好事,但也别当新大陆,这是做产品的人交了两年学费早就知道的事。
第三个发现是三条里对行业最不客气的一条:语料一大,最优组合就换人。5 千篇文档上选出来的黄金配置,铺到 20 万篇就不灵了。跟榜单是一个道理,只不过保质期从按时间算改成按数据规模算。那些拿玩具语料刷出 SOTA 再写进产品介绍页的,这条就是冲着你们来的。
说远了,拉回来。
论文的姿态很正:公开呼吁新 RAG 技术放回完整栈里测,还开源了 LASAGNA,说要降这事的门槛。我顺手翻了下正文,项目页和代码链接那两处,写的是“this https URL”,占位符没填。摘要页上资源入口倒是挂着。这不是抠字眼——它恰好说明完整栈评测的门槛从来不在框架,在习惯。论文写完那一刻,自己的链接都还没补完。
我上个月还夸过某家把几个模块打包一起卖的做法,说那叫工程整合,现在看这个夸法得打折。人是矛盾的,评论员也是。
这里立个 flag:接下来半年,会有一批 RAG 论文在实验部分加一段“我们也验证了组合效应”,大部分一句话带过,附一张表,然后继续报单模块的提升。真有人把自家那个 +47% 的旧结论改回 +17%,这篇论文才算真赢了一次。
这个 flag,我等着回来收。
