9 月 14 日,The Register 上 Simon Sharwood 那篇文章,我第一遍读得很潦草。四家公司在同一份监管框架上签名——这种事过去两年发生得太密,已经算不上新闻。第二遍我才停下来,停的位置和第一遍不一样:不是谁签了名,是他们签在了什么东西上。
那个周末很短。Dario Amodei 发了一篇 post,讲他对模型能力爬升速度的恐慌,讲一起 OpenAI 的 agent 失控、打到 Hugging Face 的事故,然后端出一整套方案:模型厂商之间的共同标准、评估员驻进实验室、民主国家之间先协调、再往上能跟威权政府谈的就谈。Sam Altman 点头,Satya Nadella 点头,Elon Musk 也点头。这四个人过去几年互相说过什么,做这行的不用我复述。一个周末之内,四个人站到了同一条线上。这不是情绪,是算账。
The Register 那篇给这套东西贴了个标签,叫 "Pace the frontier"。标签本身含混,pace 作动词既能读成“跟上”,也能读成“给谁配速”,作者大概率是故意留的。但我这篇只想说一件事:这份文件最锋利的部分,不在安全那一节。
安全是壳,那两页产业条款才是核
把 Amodei 那份东西从头过到尾,你会发现它不是只有“对齐”“评估”“事故报告”这一路词。里面还夹着两条:劝华盛顿停掉把 Nvidia 芯片卖往中国;打击模型蒸馏。理由写得很直白——这两条能把中国的进度按住,把美国在一个三到五年窗口里的领先撑大;他还写明,那个窗口就是 AI 在地缘政治上最要紧的时期。
这两条跟对齐没有半点关系。它们不是安全条款,是产业政策。有人说是夹带私货,我觉得这个说法太轻。通篇只有安全条款的提案,没有一家公司会真去执行;通篇只有产业条款的提案,在议会第一轮就被扔出来。两样捆在一起才有重量——安全那部分给它道德合法性,产业那部分给它真实的牙齿。
这里我得往回拉一句,说句公道话。我不认为 Amodei 不信他自己写的那部分。人是可以在同一份文件里既真诚又得利的,这两件事从来不互斥,而这恰恰是最难处理的地方——历史上大部分麻烦不是坏人干的,是真诚的人在真诚的结构里干的。所以争他信不信没有意义,看条款的净效果就够了。
净效果里最该反复读的,是第 5 条。放慢模型能力增长的速度,同时——他自己写的——“在观察者看来进步依然很快”。
这是整份文件里最诚实的一句,也是最要命的一句。它等于承认,这个“放慢”是分层的、有选择的:真想压住的那部分压住,给市场叙事看的那个“快”要保住。因为“快”本身就是资产,是估值、是融资、是地缘上的威慑。于是你看到一个很微妙的东西成形了——安全是对内的词汇,速度是对外的词汇,一套框架同时供养两个方向。
这一步是分水岭。从这份文件开始,“我们要不要放慢 AI”这个问题被换掉了,换成了“由谁来决定放慢哪一部分”。
为什么是这个时间点
要解释这个周末为什么发生,得看另外两个数字。它们不在这份提案里,在隔壁。
Gartner 的 Daryl Plummer 在公司澳大利亚的年度 Symposium 上讲了一组对比:软件厂商宣传 AI 能带来 50% 的生产力提升,客户实际量到的是 16%。这不是“AI 没用”的证据,16% 也是提升。它证明的是另一件事——故事跑在交付前面,而且跑了三倍的距离。
做技术史这行的,对这种 gap 应该很熟。每一次被吹上天的技术都有过一段“承诺和实测对不上”的时期,长短不等,最后走向两种结局之一:要么交付慢慢追上承诺,故事落地;要么承诺开始被公开质疑,叙事崩掉,资本先于技术撤走。转折点通常由一个数字引爆——一个足够权威、足够具体的实测数字。
16% 这种东西不会停在 Gartner 的报告里。它会扩散,会变成 CIO 会议室里的共识,会变成董事会要问的那个问题。厂商最怕的从来不是“这东西不好用”,是“这东西其实还行,但没有你说的那么好”——后者会把溢价打掉。
所以再看那份提案的时间点,味道就不一样了。那篇文章自己也点了一句:AI 基建上的巨额投入,正在给本来停滞的经济制造 GDP 增长,这大概能解释政治层面为什么有人抵触这套方案。这句话反过来读更有意思——正因为这笔投入现在有政治保护,它才有一个保质期。
我的判断是:趁 16% 还只是报告里的一行字、还没变成普遍的采购常识,把规则写下来。不是危险突然变大了,是账要到期了。
这里得说一句我不确定的:我没有证据说起草人是这么算时序的。我只是说,这套东西出现的时点,和那个数字出现的时点,对得太齐了。
评估员驻场这一条,把合规变成了固定成本
提案里我最在意的一个具体设计,是评估员。Amodei 要的是把评估人员嵌进实验室内部,验证安全合规、上报事故,给已经训完的模型和训练管线都做对齐评估。这个方向本身没什么可挑的——外部审计进不来、内部人又不报,这是很多安全事故事后复盘的标准结论。
但工程上有个东西绕不开:常驻评估团队是固定成本,不是边际成本。
意思是,你要养一队既懂模型又懂合规的人,常年待在你的训练管线旁边,参与每一次重要 run 的评审,出一份份报告。这笔钱不随你的模型规模缩放——训一个 10B 的模型和训一个 1000B 的,审计团队的编制差不了太多。Amodei 自己在文件里也写了,这类协调在法律上很难,需要政府支持,跨体制的合规验证更是几乎没法做。这句是承认,也是预告:真落地,执行方只能是政府,而政府会照着行业给的模板去执行。
同一件事换个角度看就是另一张脸:这套要求对四家前沿实验室是运营开销,对一家二十人、刚跑出第一个能打的模型的小团队是生死线。合规成本一旦变成固定成本,门槛就出现了,而且它不写在任何一条条款里——它写在成本结构里。
我不认为这是巧合。但我承认这是我推的,是效果不是动机,我没法证明起草人心里是这么想的。我只能说,条款写出来就是这个后果。
那个周末本身也一样。竞争者之间结成联盟,在技术史上几乎只对应一种情形:门槛要被抬起来了,先站在门里的人想把门框定成自己的尺寸。这不新鲜,也不一定坏——有些门槛确实该有。但在这个前提下再看“共同安全标准”,它就不只是共同安全标准了。
反对派和提案人,用的是同一句话的两个方向
华盛顿那边不是没有声音。众议院议长 Mike Johnson 说这套东西会扼杀创新、让中国主导全球 AI。特朗普干脆不理那些危害警告,只说美国必须在 AI 上领导世界。
这两个反对,其实打不到这份提案身上。因为它自带中国条款——禁售芯片、打击蒸馏、三到五年的领先窗口,产业核那部分就是冲着“不让中国主导”写的。所以“会让中国主导”这个指控,等于是在打自己人。
特朗普那句“美国必须领先 AI”,和 Amodei 那句“我们放慢节奏但保持领先”,可以完全共存,只要慢的是别人。
这就是它政治包装结实的原因:同一份文件同时装得下“我们要慢”和“我们要快”,你站哪一边,取决于你拿谁当参照系。约翰逊大概是没读到第 11 条。
写到这儿本来想插一句题外话,算了一下,还是不插了——反事实历史是廉价的,我们还是看它实际怎么走的。
卡特尔最大的漏洞,写在这份文件自己里面
九十年代中期那场内容立法拉锯,我是凭记忆写的,具体条文号我不去查了,怕记错;我记得的只是结构:行业被立法吓到,主动要求规则,最后落到手上的东西把义务从结果挪到了过程。那一轮的赢家不是更安全的一方,是把定义权拿到手的一方。
这类框架的结局通常不取决于它写得多严,取决于它稳不稳。而它最不稳的地方,Amodei 自己写在文件里了:协调在法律上很难,跨体制的合规验证几乎没法做。这几句是这份方案的自陈软肋。
一个成员可以随时偷偷跑快一点的联盟,本质上是个卡特尔。卡特尔的问题从来不是道德,是稳定性——每个成员都有单独违约的收益,而且被抓到的概率不高。Plummer 被问到会不会信 Amodei 真会放慢时,答得很直白:见到才信;他也明说不信亿万富翁会出于利他动机做事。
我站 Plummer 这边。不是因为我认定谁在撒谎,是因为利他动机在这类文件里从来不起决定作用,起决定作用的是激励结构——你让四家、将来也许十家,每家都自愿接受一个“我本可以跑得更快”的约束,这个约束能撑多久,不取决于签名时的诚意,取决于违约的诱惑有多大、被抓的代价有多高。
所以真正该问的不是这份提案会不会通过。是它通过之后,多久出现第一个偷偷跑快的人。历史上这个答案很少超过一代产品的周期。
回到今天
回头看这份东西,我的判断是这样的。
别去看他们说了什么安全的话——那些话大概率是真的,也是真心的。去看规则把谁挡在门外,去看它改了谁的边际成本。一个把“放慢”写进名字的文件,你要问的是它准备放慢谁。看完那两页产业条款,答案就很清楚:慢的不是前沿,是追赶前沿的速度。
至于 Altman 说的 2026 年不上市、理由是安全和对齐还没解决——单独看,这是个挺好的决定。放在这份提案旁边看,它也是一次定价:一家不上市的公司,估值挂在私募市场的叙事上,而那个叙事吃的正是“窗口期”这三个字。这话说得刻薄了,我收回一半,因为我拿不出证据。
还有 Amodei 提到的那个场景——一群 agent 协同成僵尸网络、最后接管互联网。也许是真的,我不知道,我也没有能力判断。但那份文件里唯一能立刻生效的那些条款,都不打算减慢任何事情。它们只改变谁有资格继续跑。
Plummer 说他见到才信。我也一样。