RLVR2 篇实战文章

训过 RLVR 的人大概都见过这条曲线：前几百步 reward 涨得挺像回事，然后某个 checkpoint 之后突然躺平，一路平的。学习率调大调小都没用。换个 seed 重跑，有时候能多撑几百步，最后还是躺。 大多数人的第一反应是“奖励太稀疏”。这个判断对了一半，但因果反了。

「LLM 是不是下一词元预测器」，这问题最近又被拎出来问了一遍。 简单说，这话不算错。它只是把外形说完了，里子一个字没提。 这个月初，Garrin McGoldrick 写了篇文章专门拆它，第二天又改了一版。作者自述是机器学习研究者、软件工程师，再往前是搞粒子物理的。博客上标着"进行中的笔记"，看着就是随手记的那种。