本周小抄:让模型自己决定去翻哪里
为什么一篇讲专利检索的论文,值得放进本期小抄。 因为它把 RAG 里一直由人来干的那一步,交给了模型自己。 这篇 8 月 11 日挂上 arXiv,编号 2608.11030,主分类 cs.IR,交叉列了 cs.CL。九个作者,第一作者 Jian Zhang。同时也被 IEEE CSCWD 2026 接收了。

为什么一篇讲专利检索的论文,值得放进本期小抄。 因为它把 RAG 里一直由人来干的那一步,交给了模型自己。 这篇 8 月 11 日挂上 arXiv,编号 2608.11030,主分类 cs.IR,交叉列了 cs.CL。九个作者,第一作者 Jian Zhang。同时也被 IEEE CSCWD 2026 接收了。

多智能体防幻觉这事儿被讲得越来越玄。玄到好像 agent 一多、让它们互相吵两句,幻觉就自己没了。 上个月翻到一篇金融问答的论文,CLAIRFin,arXiv 2608.13706,我点开的时候已经更到第三版了。九个智能体。第一反应:哦,又是个堆 agent 的。 从头看到尾,那九个根本不是重点。
前几期塞得满,这周只收一条。 不是没动静。是动静都太吵,挑不出一句能对普通人讲清楚的白话。吵的那些下周再说。 留下来的这条,8 月 25 号挂在 arXiv 上,cs.CL,交叉到 cs.IR,作者两个人。标题里有个 Less can be More。这种标题一般两种下场,要么标题党,要么真把常识说反了。 这条是后者。
RAG 这个名字起得就坏。它把"检索"两个字摆在前头,于是所有人都在卷检索,后半截那根管子没人回头看。 前阵子点开一篇讲多智能体出题的——八月十三号挂上 arXiv,cs.CL,编号 2608.13708,叫 TeachMateGPT。我本来是冲着"多智能体"去的。
最近又有人问,RAG 到底解决了什么。 简单说,它让模型先查资料再开口,不是全靠脑子里记着的那点东西。 问题是,查到的资料本身可以是错的。 八月底有篇论文就是冲着这件事来的。ReliableRAG,arXiv 编号 2608.25487,主分类 cs.CL,九个作者,第一作者 Jinpu Jiang。

八月底 Marcos Somma 在 dev.to 发的那篇讲 AI 记忆的,我上周翻到,读完正文又翻完 45 条评论,今天才写。值得推的原因不是骨架新。MemGPT 的分层记忆、Letta 的有状态 agent、官方 MCP 示例里的知识图谱记忆服务器,作者自己在文里都列了,没装新架构。

前几天在 dev.to 上翻到 James Anderson 的一篇文章,列了 AI 应用过度工程的 7 个迹象,每条配了替代做法,最后还给了一份预防手册。评论区三十来条,基本都在讲自己踩过的坑。 七条我不打算挨个复述,那种清单你直接去看原文更快。

先说清楚,这篇我偏着写。 Beyond Vector Search: Comparing Classical RAG with Hybrid GraphRAG for Climate Science Q&A,arXiv:2608.28766,8 月 28 号挂上去的,九页,三位作者。

速评:这篇论文里最贵的一行字,是名字。 8 月 26 号挂上 arXiv,标识 2608.25486,cs.AI 主分类,交叉挂了 cs.CL,EMNLP 2026 主会收的。公开信息里能当物证用的就这么多——剩下全是叙事。 "PonsInspired"。脑桥。

社区里流传着一句话:"检索给得足够好,RAG 的答案就应该是对的。"这说法很难验证,因为几乎没人真把"足够好"推到极端来试。多数 RAG 评测跑的是端到端管线,检索结果里总混着不相关片段、截断的表格、过时的财报摘要,最后结论全赖在检索头上。

你有没有遇到过那种时刻:你问一个 RAG 系统“这本书讲什么”,它沉默了一会儿,然后非常确信地告诉你——0。 不是“我不知道”,不是“我没找到相关内容”,就是一个干干净净的数字。0。像你问同事“中午吃啥”,他回你一个“1”。信息量约等于零,但自信程度拉满。

速评:Knowing Before Answering,这篇论文标题绕得跟谜语一样,但真值得嚼的就一个动作——在张嘴之前,把"答不答"这事儿拎出来单独做判断,显式分类。 RAG 这个圈的经典剧本,我看了差不多二十轮了:检索不行,那就换更大的模型来兜底。

准确和忠实,是一回事吗? 不是。这期小抄只有一张卡,是上周挂上 arXiv 的一篇论文。它把这两件事拆开量了量,量出一个不太好听的结论。 论文盯的是 RAG 系统里一个省钱的做法。把检索文档的 KV cache 提前算好、存起来,查询来了不用每次重新编码。再进一步,把这些缓存做量化,存储还能再省一截。

速评:这篇论文上周上 arXiv,我读了两遍,越读越觉得它根本不是来教你怎么修 hallucination 的——它是来告诉你,修这个动作本身就在折价,你只是有权挑一种折法。 论文做的东西不复杂:RAG 场景里,模型拿检索来的文档回答问题,还是会产生没依据的陈述。
为什么 AI 会一本正经地给你一个不存在的网址? 简单说,不是模型坏了,是它太会把话说圆。上下文不够的时候,LLM 不会卡壳。它会拿旁边的真材料,顺手拼一个像样的答案给你。 这期只收一条。八月底 dev.to 上有篇修复记录,我觉得值得单独占一期。
速评:这篇论文 8 月 30 号挂上 arXiv,到今天六天,我没见一个人把它真正值得聊的那句话挑出来。不是“9B 打平更大模型”,是题目里那个动词:Learning to Navigate。 它把 RAG 的语料观,从“平的”改成了“带结构、可以走的”。 框架本身不玄。

你有没有过这种体验:RAG 系统搭好了,demo 里样样都好,一上真实流量就翻车。第一反应永远是换更强的模型、换更贵的 embedding,折腾一整圈,该翻车还是翻车。dev.to 上那篇被转了一整轮的文章里有个数字:RAG 失败的时候,73% 的情况栽在检索阶段,不是生成阶段。

Rafael Pierre 六月在 Lighthouse newsletter 上发了篇东西,标题大意是:很多团队把 RAG 系统 overcomplicate 了——先上 embedding、上向量库、上 reranking,再做一堆增量优化,结果用户只是想要精确地找到一篇文档。

“上了 RAG,幻觉就压下去了。”这句话在圈子里被重复到快成物理定律了。我以前画 RAG 的时候也顺嘴这么讲过。两周前有人真去数了,八月十四号挂上 arXiv 的一篇(2608.14210),测了八个法律场景的 RAG 系统,语料一边是英文版 GDPR,一边是一部法语的国家民事法律。 结论先甩这儿:幻觉照样遍地都是。

两周前 arXiv 上挂了一篇隐私保护 RAG 的论文。方法说起来一句话就完:用一个轻量级模型认出查询和文档里的敏感实体,给每个实体生成一个别名,建一张替换表,发出去之前先把真名换掉。 就这样。没有密码学,没有可信执行环境,就是换词。 这个办法土到我的第一反应是不屑。