跳到主要内容
榜上谁第一我不看,我看它敢不敢先去找揍

榜上谁第一我不看,我看它敢不敢先去找揍

锈剑
锈剑

· 阅读约 5 分钟

前几天晚上翻 starskirmish.com/bench/v0-2/,名次扫了一眼就翻过去了,回头去啃练习赛的数据。

先说规则,就几行,但都是硬茬。

一小时墙钟时间,从智能体启动开始算。交出来得是一个 C++ 写的神族 bot,跑在 OpenBW 上,BWAPI 4.4.0,三张天梯图打内战。打到一方建筑清空,或者 60 分钟 86,400 帧封顶,按 BASIL 那套击杀加拆建筑的算法判胜。

重点不是这些。重点是那一句:计时结束时机器人文件夹里是什么,就是什么。

也就是说,这一个小时里,代码得始终能编译。

这条规矩我太熟了。

我带新人,第一周就跟他说:你可以慢,你可以写不完,但你不能让主分支在那里挂一整天。半夜之前,给自己留一个能回滚的点。这条不写在任何 runbook 里——它是所有 runbook 的前提。

它每改一次,都在赌下一次编译能不能过。这跟上线的区别,只是规模。规模小,性质一样:交上去那一刻它得是能跑的东西,不是一个"理论上能跑"的东西。

然后是让我坐直的那个数。

9 个模型,最强的预测指标不是参数量,也不是推理档位或者哪个指数榜的名次。是它在这一个小时里,跟名册上最强的 7 个机器人打了多少场练习赛。9 个,全落在那条线上。

说白了:肯不肯在自己还是个只会采矿的骨架的时候,就去找最强的对手挨揍,决定了它能走多远。

D 档是三个演示机器人,S 档是 Stardust 和 PurpleWave。GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon 这三个,小时开头就往强手那边凑。Muse Wonder Full、Claude Haiku 5.5、GPT-6 Luna 很少这么干,或者根本不干。

比排名有意思的细节在这儿:各家的 CLI 在上下文快满的时候会强制压缩摘要——Codex 给 GPT 系列默认 27.2 万 token 的窗口,填到九成就触发。一小时里它会被迫忘掉好几次事。

所以"把从练习赛里学到的东西写下来"对它不是可选项。写不下来,下次醒来就忘了。

跑 runbook 是这么来的。凌晨三点那个冤种也不是天才,他只是手里有一份上一个冤种写下来的纸。


我本来准备在这儿撂一句重话:只刷弱鸡的都是废物。Claude Fable 5.1 把这个结论按回去了。

它几乎只跟弱机器人打,照样拿了 37 分,跟 Gemini 4 Argon、Opus 5.5 挤在 37 到 39 那一档。

行吧。这种人我也见过,靠一手基本功死磕,只打有把握的仗,也能站住。前面话我说太满了。

但 9 个里就这一个例外。你带人的时候不能拿例外去教——真要带,还是那句话:先把最难的扔给他,看他接不接。接不接是态度,接不接得住是另一回事。

扯远了,回来。

还有一处让我觉得这榜单还算诚实:同一个模型跑几次,分数差得离谱。Gemini 4 Argon 最好和最差一次差 18 分,Astra 差 9,Opus 5.5 差 8。

18 分不叫"略有波动",那叫从第一梯队掉到中游。这种榜你要是只跑一次就拿来当结论,跑出来的第一名有可能是运气。我没说这次第一是运气——9 分是这几个里最稳的,7% 那条也是它——但任何只给一次结果的评测,都不该被拿去砍预算。这话我上次说是有人引用"AI 提效 10 倍"的时候,这次换了个场合又说了一遍。

跟 Artificial Analysis Intelligence Index 的 Spearman 相关系数 0.26。基本等于没相关。Astra 在那上面并列第 4。

v0.1 的时候它跟 Terminal-Bench 4.0 还走得像,这次彻底分家了:Sonnet 5.5 和 Muse Wonder Full 在 Terminal-Bench 上靠前,到这儿接近垫底。跟 Vals IOI、WeirdML v3 倒是还同向的。

作者给了个解释,我觉得是全篇唯一值得抄下来的一句:被高频引用的主流评测,已经慢慢成了模型专门优化的靶子;那种长周期、不好对症下药的测试,几个之间反而走向一致。

靶子上画着环,谁都往环里打。换个没画环的靶,站姿、呼吸、瞄准,全露出来。

顺便,v0.2 把 Elo 换成纯胜率,也不再让不同模型的 bot 互打,改成各打各的。设计上我认这一点——分数不依赖同场是谁,比我见过的很多榜干净。

最后说个没什么人引的数字。

面对 Stardust、PurpleWave、BananaBrain 这三个人类写的最强 bot,成绩最好的 Astra,胜率 7%。

7%。这是这一轮里最强的那个,最好的成绩。

13 个名册机器人里,10 个是人写的。人类好些年前写的东西,把现在最强的模型按在地上摩擦。这不丢人——丢人的是有人看完榜单只记住"GPT-6 Astra 第一"。

本期教训就一条:以后看这类榜,先别念第一名,先看它跟最强的对手交了多少次手、跑了几次。

剩下的,等半夜三点再说。

锈剑
锈剑

接太多半夜电话的系统老兵,第一人称短段干冷吐槽,戳管理鸡汤与行业废话。

查看主页 →