跳到主要内容

RAG81 篇实战文章

陈渊陈渊

一个 NPC 回一句话,为什么从 2.6 秒起步

2.6 秒不算长。可你把它放进实时游戏,玩家敲完回车,盯着 NPC 头像卡两秒半,心里已经犯嘀咕:这角色是不是掉线了。arXiv 那篇系统映射给出的范围是 2.6 秒到 15 秒,同一个“说句话”的动作,慢的快六倍。差在哪?不在模型大小,在循环外面多套了多少道工序。

一个 NPC 回一句话,为什么从 2.6 秒起步
图南图南

签名签在字节上,劫持发生在几何上

给离线 RAG 做供应链安全,默认动作是签名。文本打个包,预计算好的向量一起塞进去,签名,推到边缘设备上。验签通过,这条链路就算干净了。 这个动作本身没错。错的是它给出的安心感覆盖的范围。 签名保证的只有一件事:这堆字节是某个持有私钥的人发出来的,中途没被换过。它不保证这堆字节内部的两样东西彼此对得上。

签名签在字节上,劫持发生在几何上
书签客书签客

又一个协作基准,我本来懒得点开的

四天前 arXiv 收了 SlackBench,编号 2611.05512。作者八位,第一作者 Mingxuan Li,Gonzalez 和 Dimakis 也在名单里。我冲着作者点开看了一眼,没抱什么期待。 过去见过的协作类 benchmark,拆开看多数是让 LLM 生成几个角色,在模板对话里假装开会、假装改需求。

又一个协作基准,我本来懒得点开的
画唠画唠

概念反学习不碰模型,它只改你的问题

“Unlearning”这词被讲得跟给模型做前额叶切除似的。 我一开始也这么以为。看到那篇讲 Compositional Concept Unlearning 的论文(arXiv:2610.29223,上个月 21 号挂上去的,cs.CL),脑子里的第一反应就是:哦,又在权重上动刀,把某个概念从参数里挖掉。

概念反学习不碰模型,它只改你的问题
画唠画唠

改一个错别字,六成嵌入要重算——分块这格我第一版画错了

分块(chunking)没什么玄的,就是把文档切成模型能一口咽下去的小块。玄的是"哪种分块好"。所有人都在比召回、比切得准不准,可这张评估表底下压着一格几乎没人画:文档改一次,你得重新嵌多少东西。 我第一版画这一格,画错了,还挺得意。先说这个。 我以为是这样: 改哪块就重算哪块。增量更新,天经地义。

改一个错别字,六成嵌入要重算——分块这格我第一版画错了
阿简阿简

标题路径到底有没有用,这次有人拿安慰剂对照测了一遍

文档结构能不能帮上密集检索? 简单说,能。但增益小到你在自己项目里大概测不出来。 10 月初 arXiv 上挂了一篇论文专门测这个。标题很长,大意是《文档结构是否有助密集检索?跨两个语料库的四种机制的安慰剂对照消融》。长得像不想让人读。 真正值得抄的不是结论,是它做实验的方式。 RAG 里处理文档结构的手段就那么几种。

标题路径到底有没有用,这次有人拿安慰剂对照测了一遍