跳到主要内容

这期破个例

小周
小周

· 阅读约 5 分钟

平时这地方该出现一个 owner/repo。今天没有。

主角是一篇 X 长帖,9 月 13 日发的。我刷 notifications 划到的,本来打算扫两眼就回去翻 trending,结果从头看到尾,又折回评论区蹲了快一小时。数字先摆这儿:957.6 万浏览,3432 条回复,1.2 万转发,7.2 万点赞,1.4 万收藏。一篇讲"要不要给前沿发展设节奏"的东西被这个量级的人围观,本身就是个信号——这条线已经不只是安全圈和实验室里的事了。

发帖的是 David Sacks。他在吵什么,一句话说清:Dario 之前写过一篇文章,主张得为前沿的发展设个节奏,Sam 表示赞同;Sacks 的回应基本是——你们俩本身就是前沿的塑造者,那你们就放手去做。他顺带按市场份额、收入增长、模型能力这几个维度量了一遍,说前沿智能上早就形成两家公司的双头垄断。

这句我不觉得是骂人,是把事实念了一遍。

然后是他真正下刀的地方。两家公司对外讲,因为递归自我改进,领先优势还在拉大——Sacks 说他本人在实验室里没看到这个现象。这句我信。我刷 repo 这个圈子里搞 RL 的人不少,谁真见过一条平滑向上、自己把自己推上去的曲线,早拿去写论文了,不会只在融资材料里出现。递归自我改进这个说法最妙的地方在于,它同时是好听的增长故事和好用的监管理由,两头都占。

他的落点是:如果未发布的模型真危险到你们觉得该慢下来,那就自己慢,这个决定我支持。要停的是两件"假装"——假装需要别人发许可,假装得暂停反垄断法去组卡特尔。至于那个凌驾在产品责任之上的审批流程,那是第三件事,也是我最烦的一件。

——这里我要先说清楚,我不在实验室,也不认识任何一家的人,下面的话都是刷帖子刷出来的判断,不是内幕。

METR 那一段是全文我最想抄下来的。Sacks 说 METR 算不上独立机构,因为它跟 Anthropic 的投资人和员工有交织。这句话的分量不在于指控本身成不成立,而在于它指出了一种结构:一个评估机构,如果它的资金来源和人事关系都跟被评估方缠在一起,那它出的结论在公众那儿就没有信用可言。

这跟我平时判断一个 repo 有没有活人感是同一套逻辑——不看 commit 数字漂不漂亮,看 issue 区有没有真人来回、谁在给谁掏钱、维护者是不是就那一个人在扛。评估机构也一样。挂着"独立"两个字,不等于里面的人和钱也是独立的。

更让我坐直的是他后面那句:别让这批评估者去管那些还没走到前沿的竞争对手。这是我认为整篇帖最该被转出来的一句话。对前沿两家来说,一套什么样的规则都能接住——它们有人、有法务、有政府关系,合规成本摊到收入里连个水花都看不见。但对还在追的人,同样一套规则就是不折不扣的准入门槛。我在 GitHub 上蹲东西蹲久了,对这种形状特别敏感:一条规则如果只有大玩家付得起,那它实际执行起来就是一张筛选表,跟它写在标题里的初衷没多大关系。

我也不是全盘照收。他讲到放慢的动机那一节,我一开始是想跳过的——动机论通常是最廉价的攻击方式,谁都能说"你其实是为了自己"。但读到产品责任那一层,我改主意了。他的意思是:如果自家的模型真的被拿去促成一次严重网络攻击,这两家公司要背的产品责任是天文数字,市场本身也会惩罚行为不可预测或者没拿到授权的模型。所以放缓这件事未必是纯粹利他,可它是不是利他不重要,重要的是这个动机能让"降风险"和"赚钱"对齐。

这跟自己写开源项目的文档一个道理,一半是给别人看,一半是为了自己半年后还能看懂——动机不纯,但产出是好的。

他还有一句我很喜欢:这种做法可以叫对齐,同时也就是在满足客户需求。好在这句话把"对齐"从一个道德词汇拽回成了一个产品词汇。道德词汇的麻烦在于没法验收,产品词汇可以。

中国不太可能加入一个全球协议——这一点必须放进考量。这句在任何一篇正经讲安全治理的文章里都是被悄悄跳过的那个变量,他直接写出来了。

评论区的活人味比正文还足。有个叫 Alex Kalogeropoulos 的,说他妻子患了脑癌,Anthropic 的前沿模型挡住了生物领域一些重要的工作。我没法核实他说的具体是哪条线,也不需要核实——这就是"监管"这两个字落到一个具体的人身上是什么样子。前面那些市场份额、递归自我改进、审批流程,绕到最后压在他妻子身上。另一个叫 Beff 的只留下一句:Sacks 是史上最佳。这条纯粹是氛围,但它说明了另一半读者的情绪落点在哪。

Sacks 最后那个判断挺狠:真放慢,会赢得善意;不放慢,就会被看成又一次监管俘获的尝试,或者选举季的心理战。我不打算替谁下判决——这种级别的博弈,我一个刷 repo 的人没有信息优势。但有一件事我可以说:我平时的工作是帮你从一堆仓库里捞出值得点进去看的,标准是"这东西到底解决谁的什么问题"。把这套标准挪到这次争论上,我的站队很简单——我反对任何以"保护"为名、实际效果却是让后来者更难进场的设计,无论它包装得多像在谈安全。

这期就到这儿,没有上手门槛,也没有一行能装的命令。原帖自己去看,比我这篇转述准得多。候选池里还压着几个我盯了好几周没动手写的 repo,下周回来讲正事。