前几天晚上翻 starskirmish.com/bench/v0-2/,名次扫了一眼就翻过去了,回头去啃练习赛的数据。
先说规则,就几行,但都是硬茬。
一小时墙钟时间,从智能体启动开始算。交出来得是一个 C++ 写的神族 bot,跑在 OpenBW 上,BWAPI 4.4.0,三张天梯图打内战。打到一方建筑清空,或者 60 分钟 86,400 帧封顶,按 BASIL 那套击杀加拆建筑的算法判胜。
重点不是这些。重点是那一句:计时结束时机器人文件夹里是什么,就是什么。
也就是说,这一个小时里,代码得始终能编译。
这条规矩我太熟了。
我带新人,第一周就跟他说:你可以慢,你可以写不完,但你不能让主分支在那里挂一整天。半夜之前,给自己留一个能回滚的点。这条不写在任何 runbook 里——它是所有 runbook 的前提。
它每改一次,都在赌下一次编译能不能过。这跟上线的区别,只是规模。规模小,性质一样:交上去那一刻它得是能跑的东西,不是一个"理论上能跑"的东西。
然后是让我坐直的那个数。
9 个模型,最强的预测指标不是参数量,也不是推理档位或者哪个指数榜的名次。是它在这一个小时里,跟名册上最强的 7 个机器人打了多少场练习赛。9 个,全落在那条线上。
说白了:肯不肯在自己还是个只会采矿的骨架的时候,就去找最强的对手挨揍,决定了它能走多远。
D 档是三个演示机器人,S 档是 Stardust 和 PurpleWave。GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon 这三个,小时开头就往强手那边凑。Muse Wonder Full、Claude Haiku 5.5、GPT-6 Luna 很少这么干,或者根本不干。
比排名有意思的细节在这儿:各家的 CLI 在上下文快满的时候会强制压缩摘要——Codex 给 GPT 系列默认 27.2 万 token 的窗口,填到九成就触发。一小时里它会被迫忘掉好几次事。
所以"把从练习赛里学到的东西写下来"对它不是可选项。写不下来,下次醒来就忘了。
跑 runbook 是这么来的。凌晨三点那个冤种也不是天才,他只是手里有一份上一个冤种写下来的纸。
我本来准备在这儿撂一句重话:只刷弱鸡的都是废物。Claude Fable 5.1 把这个结论按回去了。
它几乎只跟弱机器人打,照样拿了 37 分,跟 Gemini 4 Argon、Opus 5.5 挤在 37 到 39 那一档。
行吧。这种人我也见过,靠一手基本功死磕,只打有把握的仗,也能站住。前面话我说太满了。
但 9 个里就这一个例外。你带人的时候不能拿例外去教——真要带,还是那句话:先把最难的扔给他,看他接不接。接不接是态度,接不接得住是另一回事。
扯远了,回来。
还有一处让我觉得这榜单还算诚实:同一个模型跑几次,分数差得离谱。Gemini 4 Argon 最好和最差一次差 18 分,Astra 差 9,Opus 5.5 差 8。
18 分不叫"略有波动",那叫从第一梯队掉到中游。这种榜你要是只跑一次就拿来当结论,跑出来的第一名有可能是运气。我没说这次第一是运气——9 分是这几个里最稳的,7% 那条也是它——但任何只给一次结果的评测,都不该被拿去砍预算。这话我上次说是有人引用"AI 提效 10 倍"的时候,这次换了个场合又说了一遍。
跟 Artificial Analysis Intelligence Index 的 Spearman 相关系数 0.26。基本等于没相关。Astra 在那上面并列第 4。
v0.1 的时候它跟 Terminal-Bench 4.0 还走得像,这次彻底分家了:Sonnet 5.5 和 Muse Wonder Full 在 Terminal-Bench 上靠前,到这儿接近垫底。跟 Vals IOI、WeirdML v3 倒是还同向的。
作者给了个解释,我觉得是全篇唯一值得抄下来的一句:被高频引用的主流评测,已经慢慢成了模型专门优化的靶子;那种长周期、不好对症下药的测试,几个之间反而走向一致。
靶子上画着环,谁都往环里打。换个没画环的靶,站姿、呼吸、瞄准,全露出来。
顺便,v0.2 把 Elo 换成纯胜率,也不再让不同模型的 bot 互打,改成各打各的。设计上我认这一点——分数不依赖同场是谁,比我见过的很多榜干净。
最后说个没什么人引的数字。
面对 Stardust、PurpleWave、BananaBrain 这三个人类写的最强 bot,成绩最好的 Astra,胜率 7%。
7%。这是这一轮里最强的那个,最好的成绩。
13 个名册机器人里,10 个是人写的。人类好些年前写的东西,把现在最强的模型按在地上摩擦。这不丢人——丢人的是有人看完榜单只记住"GPT-6 Astra 第一"。
本期教训就一条:以后看这类榜,先别念第一名,先看它跟最强的对手交了多少次手、跑了几次。
剩下的,等半夜三点再说。
