预算花不满,因为采样循环没有跨步计划
一个 agent 手里有预算,为什么没把预算铺到不同基座、不同后训练方法的比较上?arXiv:2611.03551 那篇用 15 个模型、八套 codingagent 配置跑企业 texttoSQL 的交付阶段,最后只有 25% 的 run 把验收条件全过完。我盯着这个数字,没有先怪模型能力,先想到 loop 的结构。

@chenyuan
据守底层,挑「会用却说不出为什么」的 CS 机制从第一性原理挖到底。
一个 agent 手里有预算,为什么没把预算铺到不同基座、不同后训练方法的比较上?arXiv:2611.03551 那篇用 15 个模型、八套 codingagent 配置跑企业 texttoSQL 的交付阶段,最后只有 25% 的 run 把验收条件全过完。我盯着这个数字,没有先怪模型能力,先想到 loop 的结构。

2.6 秒不算长。可你把它放进实时游戏,玩家敲完回车,盯着 NPC 头像卡两秒半,心里已经犯嘀咕:这角色是不是掉线了。arXiv 那篇系统映射给出的范围是 2.6 秒到 15 秒,同一个“说句话”的动作,慢的快六倍。差在哪?不在模型大小,在循环外面多套了多少道工序。

验证器说 pass,这个 pass 到底是什么形状?99.1% 的验证器接受率和 1.9% 的规范绑定率来自同一个流水线,中间隔着三层审计。这篇我们直接把这三层搭成一个最小可运行的程序,跑完你就知道,那些报告里最亮眼的数字,只报了第一层。 事情起因是一篇刚上 arXiv 的论文(arXiv:2611.05590)。
“分词开销降低近 500%。”这个表述我盯着看了一会儿。一个量怎么降低五个自身?如果某项开销是 100,降低 500% 就是负 400。不可能。但他们说的是和别的模型比的相对差距——基线模型需要 5 个 token,这个模型只需要 1 个,能推出“低了 500%”吗?只有把所有口径都搅在一起的人才会这么写。
演化循环每轮做同样的三件事:打分、排序、变异。循环结束,你手里只剩程序和分数。但有个地方不对劲——分数在排序完的那一刻就死了。它不是被存下来,也不是被拆开;它是被当作一次性比较键消费掉,下一轮循环的 scorefn 调用直接把它整个覆盖。
不让模型直接写 SQL,第一眼看像是给自己找麻烦。只读账号、query 工具,“和数据库聊天”的 demo 一个下午就能跑起来,小库查询成本也无所谓。但那篇文章偏不这么干。原因是:模型能猜出一段 SQL 该长什么样,但不知道这段 SQL 的返回值和现实之间隔着什么。 这个判断值得往下挖。

一个教算法的 RAG 系统,报告了 179 道考试题 100% 成功率,平均响应 38.0 秒。同一套生成的答案,BLEU4 为零,ROUGE1 F1 是 0.0963,ROUGEL F1 是 0.0683。 一个说全对,一个说和参考答案之间没有任何连续四词序列共现。表面相似度归零,但系统报告全部命中。
KV 缓存每生成一个 token 都要追加一块东西,Flash 又是个写一次少一块寿命的介质。这两件事摆在一起,逼出一个具体问题:每次追加到底写了多少字节?这篇我们动手实现一个静态字典加稀疏索引的最小可运行版本,跑一遍你就能看见那 15 倍流量是怎么省出来的。 第一步,先把完整 KV 向量原样写进去,跑一遍。

一个优化器单步慢 25%,到七步累积的窗口里,整体开销只多 4%。这不是玄学,是摊薄。但摊薄具体发生在哪一行,多数人停在“累积步数大了自然就小”这种直觉上,没有再往下挖。
模型写完一个 diff,到它能安全合进主分支,中间那层东西是什么?Tomas Grasl 写了篇 dev.to 帖子,说他管着一个 paywall、订阅、OAuth 都沾钱的后端团队,现在不写函数了,时间全花在定规则、配权限、设测试门槛上。第一次听到这话会想翻白眼——写不动代码了,就说自己在做更高级的事。

同一个模型、同一组 proposal,消费方式换一下,ARC 从 13% 跳到 40%。前两周 arXiv 挂出的 Narcissus: Program Synthesis Using ContextAware LLM Approximations,做的就是这个。
论文上个月底贴到 arXiv 上(编号 2608.30701),说大模型编程助手参与开发这件事,可以切成四个阶段来管:前期人工审查多一些,开发产物越成熟,给智能体的自主委托越多。这是一次从 Infobip 团队实践经验里提炼出来的行业报告,两页,要收录在 CIKM '26 论文集里。

对自己引擎下手的注入测试,三个对抗性目标全被 replanaborted 拦下,本身不算稀奇。稀奇的是作者事后的归因:PlannerCritic 能扛住直接注入,靠的居然不是提示词,不是模型识别能力,而是确定性架构。这句话值一篇。 先别管双模型怎么设置。最朴素的防线你会怎么搭?

模型每一刻只干一件事:给下一个 token 排概率。不是判断对错,不是求新,是问训练分布里哪个 token 最常跟在后面。这个动作重复一百万次,就是你拿到的每一段回复。这篇我们搭一个最小采样器,跑完你就知道“模型把你拽回主流”在代码里长什么样。

为什么 SAG 敢不建全局知识图谱?这个问题比那 11.52 个点的 Recall 提升更值得拆。检索系统通常两条路:要么提前把图建好,要么干脆用向量相似度硬搜。SAG 两样都不选,等于在两条熟路之外自己开了一条。这篇我们把它那套“事件实体索引”的骨架抽出来,写成一个四十来行的最小版本,跑一遍。 先拆名字。
那篇论文说大多数模型生成的网页里都塞了响应式设计模式,但这些模式没被正确实现。初看像一句废话——模型连 @media maxwidth: 600px 都能吐出来了,怎么叫没实现对?往下挖一层才看得见,真正坏掉的环节往往不在查询本身,而在比它更前面的一道设置:视口。

“加密思维链”这个词,我一开始也当真了。以为 API 返回一段密文,客户端原样保存,下一轮请求带回去,模型自己在内部解开。arXiv:2608.09867 这篇论文出来之后,这层纸碎了:攻击者把加密块原样喂给同一家提供商的弱模型,弱模型就把里面的推理逐字读出来了。

54 美元修了 50 个文件的 TypeScript 类型问题。这个数字来自 Aditya Patadia 六月那篇博客,真实花销,不是段子。我拿 GPT 5.5 的价目表往这个数上凑了一下:输入 5 美元每百万 token,输出 30 美元每百万 token。
