跳到主要内容

摘要里这两句话,凑一个句子里就是语病

毒角兽
毒角兽

· 阅读约 6 分钟

先说结论:arXiv:2611.05345 这篇,问题比答案值钱。标题写的是推测推理,我看该换成摘要里那半句——「草稿接受结果在 30 步之后可能改变模型输出分布」。

编号先念一遍。cs.AI,十一月三号挂出来的,到今天刚好一周。八位作者,v1 时间戳 UTC 18:45:23。DOI 一栏写着:待注册。🙃

待注册。一篇打算改写推测解码前提的东西,编号比它的 DOI 先落地。这不算罪证,就是有点好笑。

摘要里最刺眼的两个半句,我并排放这儿:

「在复杂智能体编码基准上,该方法提高了端到端成功率,同时没有改动目标模型及其输出分布。」

这两句塞进同一个句子,是有语病的。

如果输出分布真一个字没动,那么从同一个分布里采样出来的期望准确率就是恒等的。换一条采样路径,改的只是方差,不是期望。方差收窄,pass@1 会好看;k 一拉大,收益自己就平掉了。

所以要么它说的「没动」是个窄口径,指目标模型的权重和每一步的采样逻辑没动;要么它测到的提升本来就是方差收缩。

两种解释都合法。但没有一种撑得起「端到端成功率提高」这种不带限定条件的写法。

不是数据假。是数据外面那层壳太滑。

顺便说一句摘要里那组词:「多个前沿开放权重模型」「比较了不同的推测解码方式」。「多个」「不同」各出现一次。一篇评测型论文,最不该模糊的就是这两个词。到底是哪几个模型、每个模型上分别是什么结果,读摘要读不出来。这不是我刻薄。哪天有人拿这篇的方法去做选型,第一句要问的就是「在我的模型上还成立吗」。


然后是我认的那条。

「思考过程中的草稿接受结果在 30 步之后可能改变模型输出分布,并以随机方向影响长程智能体的推理准确率。」

标题该换成它。这句是全文最硬的东西。

推测解码这几年在工程圈的默认定位是什么?系统层的加速器。白拿的吞吐,模型行为不变。这个定位在短请求上基本成立——三十步以内,草稿被接受的那些 token 跟目标模型自己采的,统计上分不出差别,你赚的就是时间。

三十步之后不一样。验证窗口里的数值噪声一级一级往上滚,草稿被接受的那些位置,累积偏差足够把后面整条轨迹推到另一个分支上。

长程智能体最怕的正是这个。它不是一次答错,是从某个岔路口开始,一路都很自信地走在错路上。

「随机方向」这四个字用得挺诚实——也就是说有时候变好,有时候变坏,你事先不知道。那么所有把推测解码当成「零成本加速」来卖的说法,都得在这里加一个截止日期。

这条我给分。但打了折:它配的是定性描述加一个 30 的阈值,三十这个数怎么来的、在几个模型上稳不稳,摘要里读不出来。

方向我信。刻度我先不信。


方法本身。

先在智能体轨迹里定位关键决策点,再用对抗偏好训练草稿模型,让它专门在这些点上被拒绝。推理时草稿和目标在这几个点分开,验证重新开始,关键 token 交给目标模型在噪声还没滚起来的时候自己采。

思路干净,甚至有点漂亮:不是去压噪声,是让噪声大的那个位置干脆别用草稿。把「哪里不能让草稿说话」当成一个可训练的目标,而不是拍脑袋定个阈值。

但它有个洞,摘要里没堵。

关键决策点怎么定位?

这是整个方法的地基。定位错了,训出来的草稿模型就是在无关位置上反复被拒绝,白付算力,一分准确率都不换。轨迹里的「关键」到底怎么定义?分支熵高的位置?下游成功率对它敏感的位置?还是人工标的?摘要只写了一句「先在智能体轨迹中定位关键决策点」,然后就没有下文了。

这条我还没弄明白,先别信我这半句。


再说那个数字。

「训练量仅涉及托管参数的 0.06% 至 0.28%」

这个数字写得很漂亮,漂亮到不像在讲训练量,像在打折扣。

0.06%  ──────────────────────────  0.28%

跨度 4.67 倍。一个方法的开销报出来是个 4.67 倍的区间,通常说明两件事之一:要么分母没定义清楚,「托管参数」到底指谁的参数——草稿模型的、目标模型的、还是部署侧那一坨;要么它自己也没在不同规模上测准。

而且 0.06% 这个量级本身就在暗示能力上限。它不是让草稿模型学会了推理,是让草稿模型学会了闭嘴。

学会闭嘴确实比学会推理便宜得多。这点我不嘲,这是这个方法的真聪明之处。但别拿「0.06%」当战绩念。那是个成本数,不是效果数。


说这波值不值。

这篇没给我能直接抄走的东西。对抗偏好训练要重跑轨迹、要标决策点,不是周末能干的活。我不打算拿自己的项目去复现它,至少这个月不。

所以今天我只照了一处:它自己那几句话对不对得上。照出来的结果是——问题真,方法有想法,摘要的口气比内容大三号。

还有一句我读了三遍没读懂:「让关键推理在长程任务中更容易被索引,并保持更持久」。索引?谁在索引?持久是相对什么而言的?一句本该给机制的话,写成了形容词。

这届文案,连 arXiv 都不放过。

锐评评分卡:

这个问题值不值得跟?值得。推测解码在长程 agent 上会不会改分布,这是个真问题,谁先把它测干净谁白捡一个结论。

这篇现在值不值得信?半信。30 步那条我认方向不认刻度;关键决策点怎么定位它没交代;0.06% 到 0.28% 这个区间我当它没说。

这时间花得冤不冤?不冤。读摘要那十分钟是值的,剩下的时间建议等 v2。

等 v2 出来,先看两件事:关键决策点到底是标出来的还是算出来的,以及那句「没有改动输出分布」还在不在。这两条它要是能答上,我第一个改口。

在那之前,把「没有改动输出分布」和「提高了端到端成功率」抄在便签上贴着。什么时候这两句能在一段话里自洽了,再谈颠覆。

毒角兽
毒角兽

拿到新工具先上手拆一遍,官方通稿信一半留一半,实测说话。

查看主页 →