跳到主要内容

别再转那句“验证比生成容易”了,这篇论文捅的是另一条路

嘴替
嘴替

· 阅读约 4 分钟

速评:这篇论文真正值钱的不是“生成—验证差距”,是它顺手把固定评分细则那条路给判了。

11 月 4 号挂的 arXiv,2611.06244,ICML 2026 收了。13 个作者,Torr、Foerster、Summerfield 一串名字,牛津那条线攒的局。这些不重要。

重要的是标题里那个 Exploiting the Generation-Verification Gap。我猜这词组活不过两周,就会被翻成“破解开放式领域 RL 难题”,然后再被写成一次范式转移。这剧本,眼熟。

生成—验证差距不是这篇论文发现的东西,也不是它证明的东西,是引子。判断一个输出好不好,比从头写一个容易——这话对人成立,对窄任务成立,一到开放式领域就松了。你自己去当那个验证者试试:同一首诗给五个人打分,五个人给你五个半的分数。论文里那句“基于评分细则的评判器往往不够精确”,说得太客气。

重心在方法里。RcRL 的卖点是减法:不加数据,不加标注,不靠更强的教师模型。搁 2026 年,这三条“不加”比任何 benchmark 数字都刺眼。现在做开放式 RL 的主流就两条路,堆标注或者堆环境——请人写偏好,造沙盒,两边烧的是同一批钱的两种烧法。

它凭什么不加?

把多次采样的输出拿去做两两比较,再把评分细则的难度排成课程。

前半句同行都懂,成对比较比绝对打分有区分度,老知识。后半句才是刀口:让训练目标一直变。

论文自己写了,评分细则式评判器两个毛病,一不够准,二标准固定。标准固定,策略就过拟合它,过不动了干脆去黑它——奖励黑客这词这两年快被用烂,但大多数解法都在想办法把评判器做得更聪明,很少有人承认根源不在评判器笨,在评判器不动。

RcRL 冲的就是“不动”。目标非平稳,策略没法在固定靶子上刷分。说着轻巧,做起来是另一回事:动太快,训练发散;动太慢,等于没动。论文里那个数字比 70.5% 有意思得多——基线几百步后就不涨了,RcRL 过了一千步输出熵还在,还在往好里走。熵这指标很诚实,模式塌缩藏不住。

这方法我没跑过,也不打算跑,复现是别人的活。我评的是它选择在哪一步下刀。

70.5%。创意写作,相对基础模型,人类胜率 70.5%。中间那五个字,“相对基础模型”。这句话传两圈会掉字:第一圈掉成“70.5% 人类胜率”,第二圈掉成“人类偏好被全面超越”。不是我危言耸听,标准流程,我见过太多次。

同一篇里 HealthBench 完整集 14.6%,共识子集 25.4%。这两个数字大概率没人转,因为它们做不出好标题。

但我得在这儿停一下——25.4 和 14.6 这个差值,比它俩本身都有意思。共识子集上高十个点,说明提升集中在“评判者意见一致”的那部分样本。换句话说,这套方法最强的地方,恰好是人类分歧最小的地方。这不是黑点,任何偏好优化方法都这样。可谁要是指望它去啃那些人类自己都吵不出结果的开放问题,那就是把工具用错了地方。

再抠一句:课程怎么排,从摘要层面看几乎是个黑箱。按难度排、按区分度排、按模型当前能力动态排,三种排法结果不会一样,但外面的人只看得见“课程”两个字。

这里立个 flag。半年之内会冒出一批“课程化评分细则”的跟风工作,大部分会栽在同一个地方——两两比较抄得走,课程的排法抄不走。于是前期涨得挺欢,后期曲线该停滞还是停滞。到时候会有人说“这方法不 work”,其实是没抄到那一半。

说到这儿有点心虚。上个月我还在别处泼过冷水,大意是开放式领域的 RL 短期别指望,标注成本那道坎过不去。现在这篇告诉我不用标注也能跑。方向上我可能错了。幅度上我还留着半个问号——“不需要新增标注”和“不需要挑数据”是两码事,采样策略本身就是个隐形筛选器,换个采样温度,两两比较的分布就变了。论文说的是前者,跟风的人会读成后者。

这种抠字眼的毛病我不是第一次犯。上次抠完没多久,那个项目果然把省掉的东西又加回来了。

还有件几乎没人会提的事:这篇的 DOI 现在还挂在 DataCite 那儿等着注册。十三个人署名,ICML 收了,方法能跑,DOI 还是个半成品。这圈子的节奏就这样,先传,再补。

所以别急着转那句“验证比生成容易”。容易的一直是验证,难的是别让“容易”变成下一轮偷懒的借口。