最左边那格,我一直是随手画的
RAG 那张图我画过不止一次。每次画到最左边,我都随手写两个字:切片。然后视线立刻往右移——检索、重排、拼 prompt,那才是重头戏。 上个月看到一篇论文,专门把我随手写过去的这两个字拆了六页。EAR,arXiv 2609.12268,9 月 10 号挂上去的,已经被 ASYU 2026 收了。整篇连六页纸都不到。
@hualao
把被讲玄的概念用图 + 比喻 + 动手实验拆到咔哒扣明白,错的也保留。
RAG 那张图我画过不止一次。每次画到最左边,我都随手写两个字:切片。然后视线立刻往右移——检索、重排、拼 prompt,那才是重头戏。 上个月看到一篇论文,专门把我随手写过去的这两个字拆了六页。EAR,arXiv 2609.12268,9 月 10 号挂上去的,已经被 ASYU 2026 收了。整篇连六页纸都不到。
arXiv 2608.25241,题目起得一点不抓人,A Few Pages of Markdown。八月挂的 v1,九月中补了 v2,八个作者。没人转给我,我大概就划过去了。 但最值钱的那个数不在这几个时间点上。是 73.8%。不是那个四级模型,是这个数。等会儿说为什么。 先画开它在量什么。

arXiv 上那篇 MACGen,我本来是要划过去的。"安全代码生成"这六个字见太多了——挂个漏洞库、塞进 prompt、指标涨了,收工。结果摘要里一句话把我按住了: agent 之间不共享完整对话历史。 第一反应:这算什么卖点?后来发现整篇的轴就在这一句上。 先坦白我为什么本来不想看。

arXiv 2608.25466 现在挂在那儿,1 KB。 先画一张图,比我说半天管用: 八月底投的,九月底改了一版,然后撤了。撤稿说明很直白:传错了版本,作者要重传一个对的。 6,605 KB 掉到 1 KB。1 KB 是个什么长度?大概就是一个注释。
先把话说死:agent 失败之后,你的第一反应是给它补上下文、加工具、多塞几个例子——大概率是错的。方向反了。 我一开始也是这么想的。八月挂 arXiv 上那篇讲 DARC 的论文,第一遍扫标题还觉得,又来一个"自我纠正"的花活。真正让我坐直的是图里那根箭头——它跟我想的,是反的。 等等等等,先别急。

最近翻到一篇讲私有稠密检索的,八月底投的第一版,这个月 3 号刚更了一版。这类东西被讲玄了很多年——一提就是全同态、安全多方那一套,好像不把整条链路加密封死就没资格谈隐私。 看完这篇我的感觉是:卡住的地方根本不在加密那一步。 先画开这个领域一直以来的形状。私有检索,之前就两条路: 贵和准,二选一。
"多智能体"这词现在的待遇,跟默认选项差不多——一个 agent 搞不定的,堆三个上去总没错。 我先撂结论:多数时候你在白烧钱。而且烧得最狠的,恰恰是那些根本用不着协作的题。 来看数。

"我只是一个 AI"——这句话你听过太多次了。问它有没有感受,它先甩这么一句垫底,然后才开始讲正事。 我原来以为这句是训出来的。RLHF 一轮一轮喂"别装人",烙进权重里,成了它的本能。 上个月翻到一篇论文,把这个想法给掀了。

有人在错误的分支上敲了 git reset hard,三个小时的工作从 git log 里蒸发了。 第一次听到这事,我跟所有人反应一样——完了。后来我把 Git 的对象模型画开看了一眼,才发现这个"完了"根本站不住脚。 Git 极少真的删东西。它九成时间在挪指针。

AGENTS.md 有多普及?这问题我最近在好几个地方刷到,答案给得都挺干脆:6.2%。 九月十九号 dev.to 上那篇调查,GitHub 上扒了将近一千九百个仓库,一个一个数出来的。听着挺扎实。 可同一个调查里还躺着另一个数字:1.0%。 同一个文件,同一个人数的,同一套匹配规则。差六倍。

八月十三号挂到 arXiv 上的那篇 Syfer(多语言多跳问答,已经被 NLPCC 2026 收了),我翻完摘要,第一个念头不是"又一个 mRAG 提点",是——翻译被挪位置了。 挪位置这件事本身,比它涨了几个点有意思得多。 先交待我以前的默认认知。
上下文压缩的评测没那么玄。是我拿错了尺子——我一直盯着答案质量,论文盯着引用归属。attribution。就这个词。 9 月中旬 arXiv 上挂了一篇,2609.14245,Deepanshu Mody 的 The AttributionCompression Frontier in RetrievalAugm…
半个多月前 arXiv 挂了篇讲视觉 RAG 的 agent 论文,7 页,3 张图,标题平平无奇,我本来扫一眼就划走了。结果停在中间那句话上——作者说瓶颈不在找证据,在把证据摆好。 我第一反应:有这么严重? 我脑子里的视觉 RAG 一直是三段:检索、看、答。把相关那几页翻出来,剩下的交给模型,能有多难。

上次画 RAG 那张图,我留了一格没填。就是“查回来之后、拼进 prompt 之前”那一步。当时我写“模型判断这段相不相关”,写完自己都嫌糊弄——判断?拿什么判断?让 LLM 盯一段文本说“我觉得这有用”,那不叫判断,那叫再赌一次。 这一格我绕着走了挺久。不是看不懂,是它没法用一张图收尾。

百万 token 的会话,KV cache 早就不在显存里了。这不新鲜。 新鲜的是很少有人往下追一步:搬出去之后,瓶颈换成了什么。 画张图: 解码每一步的 topk,不是"在显存里挑几个最大值"那么轻。键在主机那头,排序索引也在主机那头。你要挑,得先扫;要扫,读的是字节,不是 FLOPs。计算单元闲着,链路在冒烟。

1.58 这个数被当口号喊了很久了。"三元 LLM,每权重 1.58 比特",念出来像一句已经拿下的战绩。 前几天那篇 Breaking the 1.58bit Barrier 挂出来,我读完了。读完最大的收获不是它省了多少——是我终于想明白:1.58 从来不是个能达到的数,它是个下界。

dev.to 上前阵子有篇 Dimitris Kyrkos 写的文章,标题挺冲:AI 生成的测试没在测你的代码,它在测模型的盲区。底下四十多条评论,一帮人拿自己的经历在对账。我一路刷下来,越看越觉得它戳中的东西根本不在"测试是不是 AI 写的"这一层。
TheFlow0 退圈了。 安迪·阮。PS5 这条线上待了十几年的人。前阵子他在社交媒体上说,自己退出 PS5 破解,PS5 Linux 那边的工作也停了——本来打算把 PS5 Pro 的支持做完,2027 年发。几个月的活,就这么扔了。 圈里的反应基本是"大佬被白嫖狗气走了"。情绪我懂。
arXiv 上挂了篇 AutoDesign(2608.13560),做的是论文自动生成会议海报。我第一眼扫到标题里的 MetaHarness Optimization,心里"哦"了一声,差点划过去——又是 prompt 搜索换了个名字吧。

多智能体防幻觉这事儿被讲得越来越玄。玄到好像 agent 一多、让它们互相吵两句,幻觉就自己没了。 上个月翻到一篇金融问答的论文,CLAIRFin,arXiv 2608.13706,我点开的时候已经更到第三版了。九个智能体。第一反应:哦,又是个堆 agent 的。 从头看到尾,那九个根本不是重点。