跳到主要内容

拿置信度当质量分,等于让学生的水平决定老师教什么

嘴替
嘴替

· 阅读约 4 分钟

速评:跟模型兼容,不等于值得学。这话听着像废话,可过去一年那条研究线就是绕着它走的。

10 月 9 号挂上 arXiv 的 2610.12995,标题看起来只是在问 SFT 该学什么,真正扎人的是正文里这半句——模型认不认,和这份示范值不值得学,是两件事。

过去一年多,动态 SFT、自适应微调这一路发得不少,做法大同小异:拿模型自己对每个 token 的预测概率、先验支持度、分布兼容性当尺子,把监督信号重新称一遍,支持度低的降权,低到一定程度直接丢掉。逻辑听着挺顺——模型都不认的东西,硬灌进去不是污染吗。

这六位作者偏不认。反问很短:一个 token 当前支持度低,可能是它跟模型不匹配,也可能恰恰因为示范要教的就是这一拍,任务特定的那个决策,本来就是模型不会的。

我读到这儿停了一下。不是因为这话多新,是因为这条线绕开它绕了整整一年,绕得还很整齐。

把置信度当质量分,本质上是拿学生的水平决定老师教什么。

学生不会的地方,权重最低。这套机制跑顺了,最后喂进去的全是模型本来就会的东西——训练 loss 掉得漂漂亮亮,出了训练分布一动不动。这不是我第一次说这话,上一波“用模型自己的打分筛数据”热的时候我就泼过冷水,当时被人一句“工业界都这么干”堵了回来,我也没接上。

为什么这个诊断比方法本身值钱:动态 SFT 好发论文,改一行加权公式就是一版新方法,benchmark 上总能挑出一个涨点交差;而“这份示范到底要教什么”这个问题,没法用一个 loss 项解决,也不好画成图。于是大家默契地绕了它一年。绕得越久,越像共识。

得给分的地方也在这儿,作者没停在吐槽。做法不复杂——teacher forcing 下把标准答案前缀钉死,让一个冻结的参考模型分别在看得到任务输入和看不到任务输入两种条件下读同一个 token 的似然,两个数相减就是条件信息增益,量的是这个决策的不确定性被降了多少。再往下,他们把这块信息写成当前策略在 KL 正则下的投影目标,推出一个等价的标量加权损失,梯度对得上。最后这步是硬功夫:不推它,前面那个增益只是个漂亮分数;推出来了,它才是个能训的东西。

但我对这个量的估计方式留着问号。用“有输入”和“无输入”的似然差当任务信息,这个代理量会不会退化成一种更贵的难度加权,得拆开看。数学题、代码题上,它大概率跟“这一步有多难”高度相关;要真是这样,它赢下来的那部分增益,跟几年前那批按 loss 排样本顺序的老办法差多少,就得重新算。self-paced 那一套,换个 token 级的马甲又回来一趟,这剧本,眼熟。

它报的两个战场是数学推理和代码生成,还说难度高的评测分布上增益最明显。这俩任务有个共同点:答案短、判得了对错、任务输入对输出的条件信息极强。我不怀疑它在这两个上面赢,我怀疑的是换战场。长文写作、多轮 agent 轨迹、开放式生成——“任务输入”指什么,“标准答案前缀”钉在哪,这个框架的每个构件都得重新定义一遍。作者没往那边走,这不算毛病;但谁要是拿着这两个 benchmark 的结果说这是通用后训练方法,那是在替作者加戏。

至于“不需要额外训练数据、不依赖在线 rollout”这句,多半会被抄进摘要第一行。话没错,可省下来的是采样成本,不是数据成本:你手上还是得有一份带标准答案的示范,CIG 只决定这份示范里每个 token 占多少权重,不负责把它变出来。这类“零额外成本”的表述我见一次拆一次,它最容易被搬上台当结论,而在原文里只是个实现属性。

顺手说个时间戳:v1 是 10 月 9 日 04:57:55 UTC 挂上去的,文件 496 KB,DOI 到现在还是待注册状态。不带贬义,就是这个圈子的正常节奏,位置先占住,后面慢慢改。倒是页面上连音频摘要入口都配好了,我一时不知道该说这是进步还是别的什么。

这里立个 flag:三个月之内,会有一批 follow-up 把条件信息增益当现成加权器塞进各种 pipeline,然后有人跑一张相关性表,发现它跟“按 token loss 加权”的相关系数高得不好看。中了,我回来收;要是它在长文本和 agent 轨迹上也站得住,那是我看窄了,这篇我第一个回来认。