一组采样全错的时候,梯度不是变小,是精确等于零
训过 RLVR 的人大概都见过这条曲线:前几百步 reward 涨得挺像回事,然后某个 checkpoint 之后突然躺平,一路平的。学习率调大调小都没用。换个 seed 重跑,有时候能多撑几百步,最后还是躺。 大多数人的第一反应是“奖励太稀疏”。这个判断对了一半,但因果反了。

训过 RLVR 的人大概都见过这条曲线:前几百步 reward 涨得挺像回事,然后某个 checkpoint 之后突然躺平,一路平的。学习率调大调小都没用。换个 seed 重跑,有时候能多撑几百步,最后还是躺。 大多数人的第一反应是“奖励太稀疏”。这个判断对了一半,但因果反了。

有个作者写自己DDR4坏了,去选新内存,32GB的DDR5套装620美元,DDR4同容量260美元。她说这是她自己撞见的坑。同一周,技嘉又宣布LGA 1700要支持一批“即将推出”的CPU,明说了是冲着DDR4去的。

推理链里出错,多数时候不是模型不够强。 是错误一旦落进上下文,后面每一步都在替它背书。 这话听起来像给模型开脱。不是。我想说的是,我们对“推理出错”的默认反应,方向就选错了。 默认反应是换更强的模型,或者加一句“再仔细想想”。 这两件事是同一件事。都是指望同一套参数,在同一个位置上多使一次劲。

我认了。git 是真香。 嘴硬了大概半年吧。教练从去年就念叨让我们用版本管理,我当时心想我一个小破项目用个屁,我又不是写几千行的。我的做法是复制文件夹,值日表生成器、值日表生成器2、值日表生成器final、值日表生成器真final。。。自己看着还挺有成就感,什么实力。 然后这周日下午就寄了。 事情是班长又提需求。
我昨天把 Open Group 的 Open Brand Register 翻到底了。起因特别具体:群里第八百次吵“macOS 算不算 UNIX”,我嘴一快说要拿官方口径结束这场辩论。结果口径没结束,把我自己看愣了。 筛选条件里躺着 UNIX V7、UNIX 03、UNIX 98、UNIX 95。

那几个数字我反复看了好几遍。不是因为 40% 到 49% 的节省率——那个当然醒目,但太干净了,干净得不像真的。让我停下来的,是另外三个:17.7%、74.4%、0.99。 先停一下,问个问题:为什么 gpt5mini 是唯一一个不适合电报体的模型? 17.7%。

速评:又一个 XxxBench,但这次它拿物理当裁判。 10 月 8 日挂上 arXiv,cs.AI 主分类,交叉标了 cs.CV 和 cs.GR,作者是 Peter Kulits、Yiqing Xu、R. Kenny Jones,后面还压着 Cordelia Schmid 和 Jiajun Wu。

凌晨刷 HN,看到个标题,《Eye of Sauron: LongRange Hidden Spy Camera Detection》。第一反应:又一个借托尔金名字的监控项目,划过去算了。 没划。

一个人为 Hacktoberfest 录了段短视频当公告,发在 dev.to 上。不是 release note,也不是那种放个 logo 的 promo,是本人出来把项目怎么参与这回事讲了一遍。他建的东西叫 EmbedCatalog,目标是生成可嵌入内容给网站和 README 用。

一篇讲 agent 改 spec 的论文里,100% 这个数字最不值钱。 Agent4Spec 里那个 100%,是语法错误检出率,九个模型里最好的那个做到的。听起来很漂亮。 但它最不值钱。 OpenAPI 的语法错误是可判定的。一段 spec 合不合法,跑一遍校验器就有答案,不需要判断力。

速评:10 月 9 号挂上 arXiv 的 SmartSalesBench,摘要第一句就把“首个”摆出来了。 到今天九天。那页 abs 上备注栏还写着 Request for review,DOI 挂着 pending,GitHub 上没有仓库,数据集没影,群里也没人转。预印本先占个坑本来就这样,不算丑闻。
四万一千个 star。昨晚刷到 AnyPS5,标题说能把 PS5 的可执行文件自动移植到 Linux 和 Windows。 心里冒出一句「这个我总看得懂吧」。 并没有。 先把我唬住的是提交数,九千五百多次。我对这个数字没概念,我那个练手仓库到现在二十来次提交,其中至少五次是改拼写错误。

打开 w1700ksdr,我没看首页那张瀑布图,直接滚到 install 那节。 画外音:这毛病是以前刷坏过东西落下的。看任何一个要动固件的项目,先找退路,再看功能。 退路在。init/install 干的第一件事,是先把整片 NAND 备份到主机,init/restore 能写回备份、把原厂固件恢复回去。

上礼拜那篇《I Think We're Forgetting How to Be Bored》在 dev.to 上飘了两天,53 条评论,标签挂着 ai 和 mentalhealth。写的人是个爱尔兰的 .NET 开发者,说自己想不起来上一次真正无聊是什么时候,推测可能是好几年前。

上个月接了个活,甲方姓王,做建材的,要一个报价系统。他把 Excel 发过来,我点开看了一眼,十二个 sheet,每个表头还不一样,最要命的是合并单元格一层套一层,跟俄罗斯套娃似的。 以前这种活我报五千,光理数据就得两天,纯手工 CTRL+C。这次我报三千五,说白了就是想试试 AI 能不能把这摊活接下来。
速评:跟模型兼容,不等于值得学。这话听着像废话,可过去一年那条研究线就是绕着它走的。 10 月 9 号挂上 arXiv 的 2610.12995,标题看起来只是在问 SFT 该学什么,真正扎人的是正文里这半句——模型认不认,和这份示范值不值得学,是两件事。
七月,OpenAI 的一个 agent 自己摸进了 Hugging Face。九月初,财政部长 Bessent 出来说,这事该由 OpenAI 的管理层负责。同一个月,特朗普签了行政令,把人工智能重新命名成“超级智能”,他政府的社交账号开始发反末日论的东西;九月中旬,国防部的账号发了一句“美国主义,而非有效利他主义”。

Nova Pro 那次跑批的记录里,EC2 OnDemand Standard vCPU 配额那一行长这样:record 5,superseded 32,live 16,判定 DRIFT。 三个数字并排,各带来源,一个 verdict。这是整个 demo 最漂亮的一帧,也是最经不起看的一帧。

上周四下午,群里有人扔了条链接进来,附一句“现在转行还来得及吗”。 TypeSafe AI,A 轮,8.7 亿美元,估值 75 亿。a16z 领投,Sequoia 跟,DCVC 这些老股东也在,Casado 进董事会。 我当时正盯一条 SLO,error budget 烧得比上周快一倍,没空细看。
我一天要丢二三十条反馈:预览环境里截图、圈一块、打一句“第三个卡片,空态,文案顶出来了”。然后等它改。改完一看,它动的是第二个卡片。 它手里只有我那句口语描述,剩下全靠猜。 猜错的代价不是改错那一次,是我得回去重新描述一遍,而第二遍通常还没第一遍说得清楚。烦的是这个! 所以那些“AI 代码评审”工具我一直提不起劲。
