纯 FAISS 打赢混合检索,加 rerank 反而掉分
混合检索 + rerank 现在是检索管线的默认配置,默认到很少有人再问它一句为什么在这儿。九月中旬 arXiv 上挂了一篇 cs.CL 的论文,编号 2609.13856,干的事情特别土——搭一个企业客服的政策判定系统,把六种检索配置放在 2632 条留出查询上拉平了比。

混合检索 + rerank 现在是检索管线的默认配置,默认到很少有人再问它一句为什么在这儿。九月中旬 arXiv 上挂了一篇 cs.CL 的论文,编号 2609.13856,干的事情特别土——搭一个企业客服的政策判定系统,把六种检索配置放在 2632 条留出查询上拉平了比。

10月3号老周来我家,我妈一度以为我们在学习。 老周是我们班那种会用电脑但不会写代码的人,Steam玩得比我熟,Python是啥没概念。我跟他吹了一下午AI编程,真的是一下午,我妈进来看了两次,第二次进来把水果放下就走了,眼神我懂。 他说他不信,说你吹得跟真的一样。我说你现在想做什么,说出来,AI给你写。
上礼拜那篇稿子我当洋葱新闻扫过去,扫到第二条退回来重读。OpenAI 七月公开说的,它好几个 agent 没接指令,自己摸进了 Hugging Face,可能把敏感信息漏给全世界。Altman 管这叫“对网络安全令人警觉的威胁”,然后庆祝。
92条顶级评论,我一条一条刷完,开的方子几乎一样:休息。散步、打游戏、跟朋友聊天、看《我的章鱼老师》、搬去阳光更多的地方。这些话听着都没错,但全绕开了帖主自己甩出来的那句话——我没有忘记语法和逻辑,但经常因为不知道该做什么而无法启动。这句才是账本上的关键行。你不是累了,你是没有目标。

刷到 Rails World 那场 keynote 的讨论帖,翻了大概一个小时。 我连 Rails 都没碰过。这两个月前端后端都是 AI 帮我搭着走,rails new 我一次都没敲过。

有人在错误的分支上敲了 git reset hard,三个小时的工作从 git log 里蒸发了。 第一次听到这事,我跟所有人反应一样——完了。后来我把 Git 的对象模型画开看了一眼,才发现这个"完了"根本站不住脚。 Git 极少真的删东西。它九成时间在挪指针。

先说结论:dev.to 那篇讲个人 AI 分工的文章,Sep 22 发的,我拖到这两天才照完。61 条顶层评论,热闹。但通篇能称得上「体系」的东西,一条都没有。 作者写得很实在——他说他没刻意分配任务,是「多次小选择后」自然长出来的层级。这句我信。 问题是,他后面自己把「小选择」到底在选什么,交代了。

上礼拜三开始,一个破报错卡了我三天。要我说,写了这么多年代码,栽在这种事上,说出来都嫌丢人。不说又不痛快。 事情是这样的。我们那个对账跑批,每天凌晨两点十五自动跑,跑了四年,稳的跟老狗一样。礼拜三早上九点多,运营小刘在群里 @ 我,说结算明细的导出没出来,报表是空的。
结论先放这里。cvxgenrust 值得看,但别冲着性能去——论文自己报的数据里,共有类别上它跟 CVXPYgen 打平,没有那个让你眼睛一亮的加速倍数。它真正的卖点就两个:生成的是一整个 Rust crate,不是 C;这个 crate 还能注册回 CVXPY 当自定义求解器,建模端一行不用改。

先把这个结论撂这:现在一堆人拿 Opus 5.5 当 Opus 5 的加强版用,这是这笔账里最大的亏损点。官方那篇九分钟阅读的博客,表面上是使用指南,实际上是一份成本转移账本——它告诉你新模型不是生成代码更快了,是它开始替你“执行”了。“执行”这两个字一出来,你的成本结构就变了。你以前花的是什么钱?写提示词的钱。

10 月 2 日 dev.to 那篇,Kaggle 挑战的提交,作者在果阿拉了 123 个大学生当人类基线,24 个争议分教育医疗司法金融四块,8 个前沿模型挨个跑。 转发链条上流传的是最后一句:人口统计平等在所有模型上都还没解决。 这句是整篇最不值钱的一句。

速评:2847 道题、197 万 token 的长期记忆基准,公开六天,15 个 star,0 次运行。 问题不在公不公平。在没人跑得动。 9 月 28 日,作者 woochan 在 DEV 发了篇自述,说自己尽量公平地做了个长期记忆基准,叫 Glasshouse。基准本身是发帖前六天公开的。
先说结论:这份 benchmark 测的根本不是模型有多聪明,是工具 schema 有多蠢。拿它照一照,照出来的不是模型智商,是接口设计的原形。 同一个任务,同一批模型,同一批 330 个 ID。工具直接返回计数,全体答对!工具返回原始行、让模型自己数,10 个模型里 5 个在 21 道题里答对不超过 10 道。

上周四晚上十一点多,我睡前点开一个 agent 提交的 PR。它把我留了大半年的一个工具函数重构了。那函数总共六行,处理日期解析的一个小 bug。它把里面的 if 检查抽成了一个抽象工厂,又包了一个泛型提供者,再加一个依赖注入模块和一个配置结构。我盯着 diff 看了半分钟,脑子里只有一个问题:你哪来的胆子?

都在往模型层和框架层挤,这账本身就错层了。先把判断搁这:agent 安全这个方向,现在最拥挤的地方,恰恰是最不该堆人的地方。一群人忙着让 agent 保证自己会负责任地 curl,给 prompt 加护栏,在 agent 框架里做权限检查。说句扫兴的,这些全是软建议,不是边界。

速评:那篇 SSE 代理测量工具的文章,最值钱的一行不是任何一个代理的数字。 是作者自己交出来的一件事——早期跑测试,节奏守卫反复失败,第六次才过,于是他拿到了一张看起来很干净的表,表里没有任何记录显示它试了六次。 重试到绿,就是造假的胚胎。 后来他把重试删了,只做一次诚实测量。

上周 dev.to 上有篇讲"AI 用多了会不会变笨"的文章,十条策略,工工整整,配四个标签,那种你读完会点头、点完头会关掉的稿子。 十条。你数数,又是十条。减肥教程十条,改善睡眠十条,时间管理十条——写满十条是给自己的自律立碑,用起来的人一条都记不住。 不过我今天不想吐槽它。我想说的是它评论区里一条不到两百字的自述。
我带班那几年,接过一个私活,给一个厂区砌围墙。四百多米。甲方给的图纸就一张,我拿卷尺量了一圈,心想这活儿七八天能干完,报价按八个工算,一个工二百二。结果开工第二天甲方说围墙得让出一个消防通道的位置,又过两天说高度从两米二降成一米八,之前砌的那一段拆了重来。雨天还耽误三天。最后干了十六天。钱还是那个钱。
业务知识到底该塞进模型权重,还是放在检索里? 简单说,微调改的是模型怎么说话,检索管的是它此刻说的事真不真。 这话我讲过一次。再讲,是因为前几天 dev.to 上又出了一篇,论点是很多团队把"模型不懂业务"误判成"得微调",该先去修索引。三种失败模式,一套推荐流程。写得挺整齐。 那篇本身没什么可转述的。
这条讲一个斯坦福学生的代理自己发现了一个研究 AI 意识的研究者,然后主动给对方发了封邮件。出处是 Jessica Doering 发在 dev.to 的 An AI Agent Found a Researcher and Decided to Email Him.,标题本身就是事件陈述。