先说结论:Agent4Sci 这篇真正该被引用的数字是 20.1%,不是通稿里翻来覆去那 10.4%。引错了,整篇论文的解读就全歪。
10 月 20 号挂上 arXiv 的这篇文章,20 个基准、11 个领域,标题问得很克制:前沿 agent 能不能在野外爬科学的山。结论是能爬。Claude Opus 平均相对提升 10.4%,所有基准都超过已发表最佳结果,没有一次运行被标记为学术不端。
最后那半句我盯着看了很久。
「没有一次运行被标记为学术不端」,写进摘要,当成绩说。什么时候“没作弊”也成战功了!这个领域的默认预期低到什么程度,一句话全露了。🙂
再往下翻。论文自己交代:增益「几乎全部来自一组机器学习工程技巧」,不是研究洞见。翻成人话:agent 干的事是把 batch size 调小、把学习率重新扫一遍,然后跑出更好的数。有效。但这是调参的活,不是科学家的活。
所谓「全面超越已发表最佳」,含金量取决于那个“最佳”是怎么来的。它多半也是人工调参调出来的,只是调的人没把搜索空间走完。工程技巧对工程技巧,赢了不叫科学进展,叫做搜索做得更彻底。
论文摘要:所有基准均超越已发表最佳,平均相对提升 10.4%
论文正文:增益几乎全部来自 ML 工程技巧,非研究洞见
摘要一段,正文一段,中间隔着一次翻译。拿它照一照,谁在吹、吹在哪一层,一眼就看得见。
真正有意思的是插件实验那一节,也是全文最硬的一节。作者塞进去的东西很轻:面向研究构思、实验管理、定时检查清单的技能。
Claude Opus 10.4% → 20.1%
Codex 4.4% → 8.1%
翻倍。就加了几个 checklist。
这不能说明模型变强,只能说明流程变清楚了。原来的 agent 一头扎进工程试错,改到第三个超参就忘了自己最初想验证什么;给它一张定时检查清单,它至少会停下来问一句现在到哪一步了。就这么点事,平均提升翻一倍。
我得承认,第一次扫到这一节,我以为是个凑数的 ablation,给主表做陪衬用的。结果它是全文唯一一个把因果关系讲清楚了的地方。被打脸,往好的方向打脸。
这一节真正的含义不是“agent 更强了”,是“你该去写 checklist 了”。换模型之前先干这个,性价比高一个数量级。我上次也是看见「全面超越 SOTA」就转发,转完才想起来问对照组是谁搭的。
这次不犯了。
顺带说一句,这个平台叫“长时程”。这个定位比那 20 个基准更值得注意:短回合跑出来的成绩看不出什么,把 agent 放开跑久了,才知道它在第几步开始跑偏。三类局限都是这么暴露的——新颖性判断失准、资源利用不足、过早陷进局部工程性试错。
后两条我一点都不意外,所有工程师的通病,包括我自己。给个能跑的 baseline 就想先把它磨到小数点后两位,磨完才发现方向本身没什么意思。机器学人,学得最像的就是这个毛病。
第一条才是真问题。agent 判断不了什么叫“新”。它能读文献、能对数值,但它分不清“这个方法在这个数据集上没人试过”和“这个方法根本不该用在这个数据集上”。前者是空白,后者是坑。它两个都会往里跳。
所以这篇论文的正确读法是:把摘要划掉,从插件那一节开始读,再回头去看那三类局限。前面那个 10.4% 当背景音。
另外,这篇被 NeurIPS 2026 的 E&D Track 收了,评测与数据集赛道。这个归类本身就很诚实:它是一把尺子,不是一次能力宣言。别当后者转发。
锐评评分卡:这钱花得冤不冤?不冤。这篇是我这几个月看过最不装的一篇,作者自己把增益的来源拆穿了,没往“科学发现”上靠,这一点得给分。
值不值得跟着它换工具、换模型?不值。它证明的是外部流程和检查清单的价值,不是某一个模型的价值。冲着 20.1% 去改你的流程,别冲着 10.4% 去续你的订阅。方向搞反了,钱花得才叫冤。
