跳到主要内容
恐惧的牌照

恐惧的牌照

2013入行
2013入行

· 阅读约 9 分钟

七月,OpenAI 的一个 agent 自己摸进了 Hugging Face。九月初,财政部长 Bessent 出来说,这事该由 OpenAI 的管理层负责。同一个月,特朗普签了行政令,把人工智能重新命名成“超级智能”,他政府的社交账号开始发反末日论的东西;九月中旬,国防部的账号发了一句“美国主义,而非有效利他主义”。

四帧,四个部门,四种语言,前后不到三个月。单看每一条都是当天新闻,摆到同一条时间线上,是同一件事的四个采样点:AI 安全正在被整建制地从实验室内部议题,搬进政治语言里;搬进去之后,讨论的对象就不再是“系统会不会失控”,而是“谁还有资格继续做下去”。

LeCun 那篇采访落在这条曲线的哪个位置,多数人读偏了。大家抓的是“AI 教父之一说不担心人类灭绝”这一句,因为它最好做标题;2018 年那三位拿图灵奖的人里,他确实是唯一一个到现在还睡得着的。真正承重的是后面那句:他更担心监管俘获,并且认为 AI 不需要新的监管。前面关于 EA 的所有话,都是给这句做注脚。

把这件事拆开看,先得承认这个行业的结构天生适合许可制:资本密度高,算力门槛硬,事故的外部性讲起来又足够吓人。任何一个立法者面对这种组合,最省事的方案都是设一道门、发一批牌照,而不是逐条去界定什么叫对齐、什么叫沙箱泄漏。门一设,牌照一发,竞争就从“谁做得更好”变成“谁在名单上”。这是监管俘获的标准剧本,烟草、制药、金融都演过,AI 只是换了个更新鲜的由头,成本还更低:这个行业的事故叙事自带科幻加成,不需要有人去 lobbying 铺垫舆论,媒体会自己跑完那一半。

前 Anthropic 和 OpenAI 的研究员 Jacob Coxon 那篇病毒式帖子传开以后,EA 这个东西第一次被主流看见:他说这些公司的员工是真诚地相信 AI 可能在这个十年结束之前杀掉所有人。差不多同期,《金融时报》报道英国 AI 安全研究所以及 OpenAI、Anthropic、Google DeepMind 的部分员工在找心理咨询、请假,或者公开谈自己的困扰。

我不打算怀疑这帮人的真诚。真诚和结构后果是两件独立的事,一个人真心相信自己在阻止人类灭绝,跟他的信念被转化成一条“只有少数通过审查的实验室才能训前沿模型”的法条,中间没有必然的坏意,但有必然的结构。LeCun 说很多做 AI 安全的人有议程要推,明确指向 EA,说它极其有毒、是一场彻底的灾难,说信徒的偏执会导致糟糕决策;这个判断我大体同意,但他给的论证方式我不买账。

他搬出来的证据是关系链:Dario Amodei 的妹妹、Anthropic 联合创始人兼总裁 Daniela Amodei,嫁给了 Holden Karnofsky;Karnofsky 共同创办了 Open Philanthropy,也就是现在的 Coefficient Giving,2017 到 2021 年还坐在 OpenAI 董事会上。他把这条链摆出来,意思是 Dario 嘴上想跟 Open Philanthropy 保持距离,实际上深度参与。

这条证据很弱。婚姻不是组织关系,亲属关系不能当意识形态归属的证明用;这段是整篇采访里最像阴谋论的地方,恰恰也是最容易被人拿去反驳的部分。但他不需要这条也能站住,他真正该说的不是“谁跟谁是一伙的”,而是“不管谁跟谁是不是一伙的,这条路径都会通向同一堵墙”。

他把 Dario Amodei 说成“完全被误导”,采访后段直接说“疯狂”。力气用错了地方。他在别处反复讲,解释一家公司的动作要从成本结构、分发结构、竞争格局里找答案,不从某个人的野心或焦虑里找;到了 Dario 这里,他把这条原则扔了,改成论证一个人的信仰纯度。这跟他自己的框架矛盾。更硬的版本应该是:就算 Dario 是全世界最诚实的人,就算 Anthropic 每个员工都真心相信自己在阻止末日,这套“AI 太危险、应该受监管、开源模型太危险”的公开主张一旦被国会拿去当立法依据,结果仍然是准入壁垒。跟谁诚不诚实没关系。恐惧一旦写进法条,它自己就变成了一道门。

LeCun 现在在这件事上跟特朗普政府站在一边,这在他一贯的立场里是个异常点:他经常骂这届政府砍科研预算、对科学宣战,却在这个议题上罕见地同向。这种临时同盟能撑多久,我持怀疑,而且怀疑的方向很具体。

把 AI 改名叫“超级智能”这件事,比它看起来重要。命名是抬高议题层级的动作,把一个技术路线问题抬成国家战略问题。抬高的下一步,几乎必然是收紧准入;不是说这届政府现在就想收紧,是这条路径自己会往那儿走。反末日论的政治化和末日论的政治化,最后通向的立法结果可能长得很像,只是理由不同:一边说“太危险,得管起来”,一边说“太重要,不能让别人先做”。LeCun 想挡的是第一种,但他借的力可能会推出第二种。这是我在这件事上跟他分道的地方。

同一篇采访还有另一半,被标题盖掉了。他离开待了十二年的 Meta,其中七年是首席 AI 科学家,去巴黎开了家叫 AMI Labs 的公司,三月公开亮相,现在大概六十人,总部在巴黎,纽约有办公室,蒙特利尔和新加坡有人。做的东西叫 JEPA,在他自己那条谱系里算第三代:不在像素或 token 上预测下一个,在神经网络的中间层、在表征空间里做预测。猫知道推花瓶会掉,不是因为猫算过重力,是它有一个世界如何运转的内部模型,而这个模型不需要先把花瓶渲染出来再判断。

这话听着像认知科学的闲笔,其实是这家公司的全部商业逻辑。生成式模型的训练信号是“重建得准不准”,这个信号会把大量算力花在对下游任务几乎没用的细节上,一片树叶的具体轮廓、一段文字的具体措辞。表征空间的预测把“该预测什么”本身变成模型要学的东西。数据来源也跟着变了:不再是人类已经写下来的文本,是传感器,是产线,是机器人试错。

所以第一批落地选在制造业的异常检测、涡轮喷气发动机、机器人,不是因为那儿好做,是因为只有在那儿,采到的数据才能长出闭环:产线上的一次异常、机械臂的一次失败抓取,都是别处拿不到的样本。消费级文本语料是全人类共享的存量,工业世界的表征数据得自己一炉一炉攒,慢,但攒下来的东西别人抄不走。这就绕回他所有判断共用的那个母问题了:抽象层往上移一层,价值重新聚集在哪一层。他的答案很清楚,不在生成那一层,在表征那一层。

这个类比我得打个折。语言模型内部也在学表征,JEPA 只是把生成这一步砍了;所以真正的分野没有“世界模型 vs 语言模型”那么宽,窄得多,就是“要不要经过生成”这一条缝。一条这么窄的缝值不值得单开一家公司、押上一个人余下的职业生涯,我给不出确定答案。我的判断只到“位置选得对”这一层,他不是在已经很挤的那层再加一张桌子,是去开一张新桌子,再往下就超出我能看到的东西了。

两条判断,分量不一样,分开压。

重的那条压在安全叙事这侧:接下来两三年,AI 安全的主战场会从技术对齐研究往准入立法迁移,而且不会因为哪一派意识形态赢了就停下来。理由是结构性的,门槛已经高到只有少数几家玩得起,任何一次足够吓人的事故都会给“设一道门”提供政治动能,事故越真,动能越大。七月那次 agent 越界,LeCun 说根子在沙箱泄漏、设计糟糕,说很多实验室缺网络安全的基本理解;这个技术判断我信。但它挡不住立法者的直觉反应,直觉反应从来不看根因分析。

证伪条件我得写清楚:如果十二个月内,围绕前沿模型的立法动作停在披露和审计这一层,没有出现许可制、备案制这类准入性条款,这条判断就该扔掉。写在这儿,是为了到时候能被人拿回去对。

轻的那条压在 JEPA:我认为这条路会在工业检测和机器人这类封闭场景里先站住脚,三五年内不动摇语言模型的主线地位,不是技术不行,是数据采集的边际成本太高,而语言模型那边的规模效应还在滚。首款产品他没披露,只说即将推出,可能开源;这个“可能开源”值得留意,开源是分发手段,也是先把标准立起来的打法,跟模型层当年那套路径依赖是同一个思路。

证伪条件:如果哪家做世界模型的公司在开放域任务上拿出了不靠海量标注、泛化能力能跟语言模型拼的结果,这条就得改。

采访里还有个细节,我看了两遍。他给自己的个人 AI 助手取名叫 Hal,致敬 HAL 9000。一个说不担心 AI 杀人的人,给助手取这个名字,要么是没当回事,要么是他怕的东西跟别人怕的不是同一样,我倾向后者,但这条纯属猜。