这期的选手不是 repo,报幕方式得临时改一下:arXiv:2611.00166。10 月 30 号挂上 cs.AI,标题长到一口气念不完,《Early Stopping in Large Reasoning Models: A Survey and Empirical Audit of Efficiency and Reliability》。
周五晚上翻 arXiv 新提交列表翻到的。翻到第三页人已经机械了,眼睛扫过去只认关键词。停下来的原因是 survey 和 audit 挤在一个标题里——survey 是把别人做过的东西排个队,audit 是自己动手翻账。这俩词放一块,说明作者不打算只当整理工。
一句话定调:把各家早停方法塞进同一批已经跑完的推理轨迹里重放,然后问一句,你停下来的那个答案,靠得住吗。
这个问法单拎出来不新鲜,放在早停这个方向上就有点扎人。这几年早停的论文基本长一个样:我这方法省 40% 的 token,准确率只掉 1 个点;他那方法省 30%,掉 0.5 个点。两张表摆一起你根本没法比——模型不一样、任务不一样、采样温度不一样,连“什么时候算停”的判据都各写各的。省下来的 token 是真金白银,这没人否认,但跨论文的那些百分比,参考价值有限。
它用的办法叫共享 rollout 回放协议。说白了就是把同一批轨迹录下来,所有方法在同一批录像带上各停各的,条件锁死。五种推理模型,数学与科学推理、代码生成、事实性任务,一批方法全过一遍。方法学上这一手不算原创,但在早停这个各家自说自话的地方,愿意先把场地铺平再比,已经比大多数同类认真。
指标那边提了个 Target-Integrated Token Efficiency,缩写 TITE,拿 oracle 当尺子,在好几个准确率目标下各量一次 token 效率。我喜欢这个设计的原因很土:单点比较太容易调了。阈值往某个数字上一卡,正好卡在一个好看的准确率上,效率数字就能很好看。要求你在多个准确率档位上都站得住,等于逼你把整条曲线交出来,藏不了。
到这儿都还算“做得挺规范”。真正让我坐直的是审计那几条。
一,更晚的退出位置上,正确率的下降幅度超过了他们拟合的解码噪声模型预测的程度。这句得掰开:晚退出掉的那点准确率如果只是解码时的随机抖动,无所谓,本来就是噪声;掉超了,意味着“多想一会儿会更准”这条几乎被当成公理的前提,至少在退出位置这个切面上不成立。至于为什么会超,论文没给我一个特别痛快的答案——也可能是我看漏了,这一节读得比较糙。
二,强制终止之后,模型内部还在继续推理。这个挺黑色幽默的:你以为加了 stop token 就把计算掐了,其实只是把输出截了。省下来的 token 计数很好看,省下来的算力是另一回事。
三,部分“正确”的早停输出,附带的支撑推理很弱。对了,但没对在点子上。这条是整篇里我最想拍桌子的一条,因为它戳的是结构性问题:早停方法优化的一直是准确率,而准确率是二元判断,对就是对,错就是错,它不区分“推出来的”和“蒙对的”。真要拿这套东西上生产,后者迟早来找你。
所以我的判断很偏,也不打算找补:这篇的价值不在它比了多少种方法,在它把早停这笔账的记账方式改了。以前这方向的账本上只有一栏,省了多少 token。它硬塞进去第二栏——你省下的那部分,有一部分是从论证质量里扣的,而这一栏之前没人计量。做推理侧成本优化的人只盯第一栏,早晚要在第二栏上补交学费。
这不等于说早停不该做。省 token 是真的,长推理轨迹里确实有一大段计算冗余,这个结论没被推翻。它只是把“省”的代价标出来了——之前是免费的,现在明码标价。
上手这块这次连一行安装命令都给不了,它是论文不是工具。摘要里说实现代码已经通过外链公开,完整度和能不能直接跑我没验,只扫了摘要和实验部分,这句先声明在前面,别把这篇当实测看。适合谁:正在推理服务上做成本优化、或者自己在写早停方法的,实验那节值得花一晚上读;给别人 review 这类论文的,也建议先把可靠性那几条记住。不适合谁:想找个装上就省一半 token 的东西的,这篇不给你那个,它给你一堆让你不太好受的问题。
对了,前面说 survey 和 audit 并排让我停了一下——这是美化过的说法。我一开始是想划走的,今年早停相关的论文多到我已经有点疲劳,看见 early stopping 四个字手指头都条件反射。真让我留下来的是标题后半截那个 reliability。这半年看下来,效率类的论文不缺,愿意花篇幅去验“停得对不对”的少。
值不值得你专门去翻,取决于你现在是不是正在跟推理成本这笔账较劲。不较劲的,知道有这么个东西、以后看见某个早停方法报“省 40% 且准确率不掉”时多问一句“掉了什么”就够了。候选池里还躺着两个推理侧省算力的东西,一个是做 KV cache 复用的,等我摸到能说清楚的程度再讲——先挖到这儿。
