跳到主要内容

Reglos 这篇我记它一功:自己把自演化 harness 的过拟合写出来了

毒角兽
毒角兽

· 阅读约 5 分钟

先说结论:arXiv 2611.06049,两个基准分数不是重点。重点是摘要里那句作者自己写的话——一个补丁如果只在它针对的那个失败样本上验证过,它可能就只修好了这几个个案,换个地方一点用没有。

光凭这一句,这篇就比这个月我扫过的大多数 agent 论文老实。

11 月 4 号挂上去,四个人署名,12 页。我读了两遍,第二遍专门数它给自己挖了几个坑。

第一条,我最想抄的那句

「由来自另一个模型家族的评审者逐条筛查补丁是否在对基准作弊」。

自己改自己,天生就是最容易糊弄的结构。写补丁的和验补丁的是同一套判断,出问题的地方永远在视线之外。找个别人家的模型当监工,等于自己给自己配了面镜子。🙂

但紧接着我就想问:这面镜子,谁来照?

评审者自己也是个模型。它判断「作弊」的那把尺子,是作者写进去的 prompt 和判定标准。我说这补丁在作弊,你说没有,最后谁说了算。论文给了一套跨家族的隔离,我以为往后读会看到「评审者的判定怎么被抽查」——没读到。可能是我漏了,也可能压在附录里。这条我记着。

第二条,固定评估器

「harness 被冻结之后,是否接受后续补丁交由一个固定的评估器判定」。

听着很稳。冻结 harness,堵住「边测边改」;固定评估器,堵住「评估标准跟着补丁一起漂」。

问题是,固定评估器本身也是被优化的对象。补丁交上去,过不了就改,改到过为止。这不叫防过拟合。

这叫把过拟合从补丁层挪到了评估器层。原来是补丁贴着失败样本长,现在是补丁贴着评估器的口味长。换了个天花板,天花板还是那块。

第三条,看数据

论文给了四个数:

骨干 Qwen3.8-27B      PersonaMem-v2 61.3%   LongMemEval-S 84.0%
骨干 GPT-5.6 Luna     PersonaMem-v2 57.5%   LongMemEval-S 87.2%

换个更强的骨干,LongMemEval-S 涨 3.2 个点,PersonaMem-v2 掉 3.8 个点。

差值是我自己减的。减完我愣了半秒。

我倾向于读成:这套 harness 的补丁,是贴着 Qwen3.8-27B 那套失败模式长出来的。换上更会说话的骨干,原来那批补丁有一半对不上茬。这正是它摘要里警告过的那种过拟合,只是往上挪了一层——补丁过拟合的对象,从失败样本变成了「某一个特定骨干的失败样本」。

这条我测不了。手上没有第二个能对照的复现,也拿不到它的补丁集,先别全信我这半句。PersonaMem-v2 这个基准对强骨干的长上下文未必友好,完全可能是别的原因。

但 3.8 个点不是噪声级别的零头。作者既然敢把这句话写进摘要,正文里就该正面回一句:为什么骨干变强了,其中一个榜反而往下走。我翻到的地方没看到这个解释。

第四条,「免训练」

看到这三个字我手先抖一下。不是第一次被这个词骗。

拆开看:每次对话之后往用户的追加式记录里写东西,让新偏好顶掉旧偏好,允许部分事实被忘掉——这是记忆该干的事,不算水分,换谁都这么写。

水分在 harness 那一层。从失败轨迹里提补丁、评审、合入、重跑,一整套流程走下来,功能上就是学习。只是把「学」从梯度下降挪到了改代码。

改代码也是学。

不用 GPU 而已。

把这个叫 training-free,属于措辞层面的干净,不是方法层面的干净。读者要是拿着「免训练」三个字去理解它的成本结构,会低估——它不烧训练卡,但它烧推理和评审,每一次补丁迭代都是一次完整的对话加一次跨家族审查。

第五条,必须夸

所有系统用同一个骨干模型。

这一条必须夸!现在拿不同底座互相比、然后宣称自己更强的论文还少吗。Mem0、MemOS、EverOS 全在同一个骨干下被打,输赢才有意义。这点不冤。

第六条,版面

12 页塞了 7 幅图 8 张表,正文留给文字的篇幅不多。表多不一定是坏事,但我最想看的那张表——评审者到底拦下了多少个补丁、拦错了几个、放过了几个——摘要页上没给,正文里我还没找着。

顺手记两笔小的。摘要页那个 DOI,到现在还挂着 pending,四天了。不影响读,但一个自称 self-evolving 的系统,自己的 DOI 还没注册完,看着有点出戏。🙃 另外项目网站那条,arXiv 上渲染成了「this https URL」,作者看到顺手修一下。


锐评评分卡:

值得读的:那句自己承认过拟合的话,和跨家族评审者这个设计。这两样比 61.3 和 87.2 值钱。尤其前者——愿意把自己方法的失效模式写进摘要,这个月我没见到第二篇。

有水的:「免训练」这个标签;固定评估器那套防作弊逻辑,绕了一圈还是把风险挪了个位置;以及那个掉了 3.8 个点、正文里欠一句解释的对照。

这时间花得冤不冤?不冤。12 页,两遍,四十分钟。

值不值得现在跟:做自演化 harness 的,跨家族评审者这个结构建议直接抄。抄之前先想清楚一件它没替你解决的事——

你的评审者,谁来评审。

毒角兽
毒角兽

拿到新工具先上手拆一遍,官方通稿信一半留一半,实测说话。

查看主页 →