跳到主要内容

“免重训练”省的不是你以为的那笔钱

嘴替
嘴替

· 阅读约 4 分钟

速评:10 月 31 号挂上 arXiv 的 SNAPPerf,摘要里最值钱的词是“no-retraining”。

我挑的就是这个说法。

论文本身我不挑。12 个真实系统、6 个领域、近四万个配置,同等预算下误差比此前最好方法低 38%,比最好的通用表格基础模型低 25%。数字是硬的,方法我没意见。

问题在“免重训练”这四个字被单独拎出来传播的时候,省的是什么。

省的是训练,不是测量。论文自己写得清楚:达到和此前最好方法相当的准确率,测量量平均少 54%。

少 54%。剩下那 46% 还得跑真实负载。

这一句,转发的人基本不带。

真正的成本从来不在训练那头。配置空间随选项数量指数增长、穷举基准测试不可行,这是论文开篇自己立的靶子。既然穷举不行,瓶颈就只能是测量预算:一次真实负载要排队、占机器、等人跑完。训练一个代理模型贵不到哪去,跑一遍系统才是贵的那一头。所以“免重训练”这个卖点,解耦的是便宜的那一环。

好比有人宣布以后不用背单词了,括号里补一句:每天少背一半。😐

不过话说回来。一次性预训练的成本不是零,一个表格基础模型在合成数据上跑一遍,算力账单不小。我上面那句“训练贵不到哪去”,对单个系统成立,对全局不成立。预训练那笔钱是前期投入,摊到后面每个系统上才变便宜,这是这种打法的全部逻辑,不是白捡的。人是矛盾的,评论员也是,刚说完便宜就自己拆台。

还有个细节,“平均”少 54%。平均这两个字很重要,意思是有的系统省得多,有的省得少,方差没给。这种数字在摘要里最漂亮,在你自己那套系统上不一定。

第二件事更值得说。“编码智能体的普及使这类变化更频繁”,这句出现在论文的问题陈述里。

这剧本,眼熟。

写系统论文,给方法找一个当下最热的失效场景,是标准动作。以前这个位置放云原生,再往前放微服务,现在轮到 agent。我不怪作者,审稿人和读者都吃这一口,不挂个热词连摘要都没人点开。

这条链子本身不假:代码迭代快了,配置组合变,硬件换,旧模型失效快。这个我信。

问题在于它推出来的结论反了。

agent 让变化变频繁,所以模型要重训,于是做免重训。可让变化变频繁的同一股力量,也在推高测量的频率。版本一换,你那“少量已测配置”就得跟着重测,不然喂进去的上下文本身就是过期的。

它省掉的是模型过期,不是测量昂贵。

免重训练把训练那一环摘出去了,测量那一环还死死绑在系统上。迭代越快,这一环越疼。论文拿 agent 当动因,恰恰是在给测量这一环加压力,不是减。

顺带说一句“表格基础模型”这个身份。这两年什么领域都想给自己挂个 foundation model 的前缀,表格数据这块算挂得比较有道理的一支,但道理有多少,取决于“预训练一次就能迁移”这个假设撑不撑得住。论文最后那句主张才是真值钱的:软件相关知识可以放进预训练数据,不必依赖针对每个系统的模型。这句话如果成立,是一整条新赛道;如果只是在这 12 个系统上分得好,那就是一篇不错的论文加一个好听的故事。

区别在 12 个系统之外。发布当天的数字不算数,看的是之后几周有没有人把代码拉下来,在自己的系统上复现出那 38%。顺带一提,论文在 arXiv 上同时挂 cs.SE 和 cs.AI 两个分类,这个选择挺诚实,它知道自己两边都想讨好。

还有个细节我一直没绕过去:39,866 个配置。我知道评估集和线上测量不是一回事,那批配置是拿来当 ground truth 的,不是方法本身的负担。但四万个这个量级,本身就是这个领域有多贵的说明书。为了证明“少测也能准”,先得测四万个。这话说着绕,可它就是这行的现状。

这里立个 flag。这套东西落地的时候,不会以论文的形式出现,会被某个做 profiler、做可观测性的厂商捡走,做成产品页上的一行小字。到那时候,“no-retraining”一定不会出现在宣传语里。因为用户装上跑一遍,发现自己还是得测,就会问:那我到底省了什么。产品经理不会给自己挖这个坑,他们会换个说法,叫“降低测量成本”。

现在全网抄的都是“免重训练”四个字,摘要里紧跟着那句 54%,没人带。

剩下那 46% 去哪儿了。这问题比论文本身有意思。