跳到主要内容
不监管也是一种架构,而且是最烂的那种

不监管也是一种架构,而且是最烂的那种

原石
原石

· 阅读约 4 分钟

先贴一段“代码”。加州 SB53 那个豁免条款,翻成 C 大概长这样:

bool exempt(company *c) {
    return c->revenue < 500_000_000 ||
           c->train_cost < 500_000_000;
}

一个阈值,两个条件。低于这条线,法案对你不存在。Anthropic 支持这玩意儿。Dario Amodei 前几天在 X 上跟 Gavin Baker 那一轮来回,核心就压在这个阈值上——他主张的方向,是让最前面的几家慢一点,让后面的追赶者便宜一点。

政策细节我没兴趣。我在意的是他那句话:硅谷流行的“监管等于监管俘获等于权力集中”,是对世界的过度简化。

这句我举双手同意。而且写代码的人应该比谁都懂为什么。

“不管”不是中立,是把所有分支都留着

你肯定见过这种代码:

if (user_wants_x) { ... }
else if (maybe_y_someday) { ... }
else if (who_knows_z) { ... }
/* 默认分支:什么都不做,让一切发生 */

“什么都不管”不是没有设计。它也是一种设计,只是把所有可能性都保留下来。保留所有可能性,就是最大的复杂度——这话我讲模型生成的代码时说过很多遍,用在一个行业上照样成立。AI 在结构上就倾向于集中权力,Dario 把这归到 scaling laws 的极端效应上,跟有没有监管无关。这个判断我认为是对的:算力和芯片就那么多,权力自然往有芯片的地方聚。开源权重能松一点,松不到根上——权重是开的,训练它的那几万张卡不是。

所以“先别管,让市场自己跑”,翻译过来就是:把集中那个分支留着,赌它不触发。这不叫自由。这叫没有架构。

架构就是砍

我说过一个观点,说过很多次:架构的本质是决定砍掉哪些可能性。你做一个存储引擎,决定单线程,就是砍掉了“以后也许要多线程”那个分支——砍掉它,才换来一个能推理的实现。什么都想保留的系统,最后谁都不敢碰。

监管是同一件事,作用对象从代码库换成行业而已。SB53 那条五亿美元的线,就是一个被砍掉的分支:线以下的公司,不承担前沿测试的成本。Dario 说得更狠——门槛更低的 SB1047,Anthropic 是反对的,因为那条线会压到追赶者头上,反而帮了最前面的几家。

这个逻辑我们在代码里天天用。给不同量级的输入设不同路径,不是歧视小输入,是让小输入别付大输入的税。真正糟糕的监管和糟糕的代码一样——一刀切,所有路径走同一套最重的逻辑。那是坏设计。但答案是改阈值,不是删掉整个 if。

那套“监管即俘获”的话术为什么流行

因为它省事。跟“加一层抽象以后好扩展”一样省事。

你不用读法案文本,不用看那条线豁免了谁,一句“监管就是大公司锁门”就完了。Gavin Baker 后来回了一句,说硅谷一堆严肃的人信这套,因为这跟 Dario 平时放出来的公开信号是自洽的。信的人是真信。但真信不等于对——训练数据里大多数文章都这么写,不等于这么写就是对的。这跟模型生成“什么都覆盖”的方案是同一个病:学过太多看起来对的坏例子。

Dario 那边也不是没毛病。他说自己的言论“风险和利益大致平衡”,一边一篇风险长文一边一篇利益长文——这个我持保留态度,两头都写长文,本身就是一种什么都保留 😅。还有他说支持特朗普政府那套前沿模型部署前测试的思路,但“要看到具体细节”。细节才是全部。阈值设错一行,整个法案就从保护追赶者变成勒死追赶者——这在代码里叫 off-by-one,在法律里叫别人破产。

收在一句话上

测试流程那部分我倒是真认同他的方向:前沿模型测得严,非前沿测得松,接近前沿了再收紧。这就是一个随位置变化的负载,不是一把静态的锁。他还提了 Demis Hassabis 那个类似 FINRA 的实体,行业自律加一层外部测试——这层抽象我认为税交得值,它换回来的是“权力分散”这个最贵的东西。

所以规则还是那条:凡是有人跟你说“别加任何规则,保持自由”,先问他保留的是谁的可能性。答不上来的,那个“自由”里没有你。

架构是砍出来的,不是留出来的。行业也一样。

原石
原石

把代码当文章写的系统工程师,以源码立论、单线程式拒绝复杂度。

查看主页 →