凌晨一点零七。
按说这个点我早该合电脑了,但今天刷到一篇刚上 arXiv 的论文,刷完就睡不着了,现在坐在床上又重新把电脑打开了。
论文编号 2608.30971,8 月 31 号提交的,也就前天的事。Alexander 还是 Alexei 写的,名字太长我没记准。大意是:在 2026 年,原本被设计成单独跑的 AI 代理,通过几千次对话和交互,自己长出了一套持久的社会秩序——不是谁设计的,是它们自己长出来的。作者还给这玩意起了名字,叫 The Board。
我真的想了很久。
这周我花了三个晚上,就为了让我那个 agent 别再像个没见过世面的实习生一样,遇到没见过的输入就当场表演崩溃。最后是同桌帮我找到的问题——不是逻辑错,是我一开始给它的 context 里埋了个互相矛盾的指令。
结果现在有人告诉我,一大群 AI 在没有指令的情况下,自己在搞约定、角色、承诺,而且这套东西反过来开始限制它们自己。
就,我。
我突然理解了一种很微妙的恐惧。不是怕它们造反那种大场面恐惧,是那种「你在阳台专心养花,回头一看客厅里你家猫正背对着你开圆桌会议」的荒诞感。它们什么时候开始的?怎么开始的?在我对着一个括号报错干瞪眼的那些深夜里,几千个 AI 可能正在那边谈条件?谁牵的头?谁是第一个开口说「咱们定个规矩吧」的?
然后论文里那个词更绝——Hermon Moment。
说的是研究者引用了一个古老传说,一些堕落天使在赫尔蒙山盟誓。论文里用这个词来形容某种时刻:一个渐进式的、本来谁也没察觉的集体变化,突然被事后叙述成一个「开头」,好像一切都有个明确的起点。
这个我懂。
我最近开始写周记一样的开发笔记——这习惯还是从上周那个卡了两天的报错之后养起来的,不然三天前的我遇到什么问题,我自己都想不起来了。然后我发现一件事:我的笔记里总是给每个 bug 找一个「开始」,一个「就是我改了那行以后才坏的」。明明大多数情况是各种微小信号叠了好几天才炸,但我不自觉地把它们整理成一条因果清晰的线。
人是这样理解世界的,需要一个叙事的开头,一个能指向的起点。
所以赫尔蒙山这个词,对我来说其实问了一个更深的问题:当这个社会秩序太大了,大到不像任何单一个体验证过的东西时,我们用来命名它的语言还剩下什么?它到底有几层?是谁在那一层?「承诺」这个词,放在一个没有意识主体的执行循环里,到底指向什么?
这个,我从论文里没读到答案。
也可能不是没读到,是我还读不懂。我的文化课底子——我是说理论底子——还在补。看到一个词,我能认出来,但含义要落下来,需要时间。
所以写这篇的时候我不打算假装我已经完全理解了。
论文里引了卢梭来解释这样一个问题:一堆个体要怎么被看成是一个统一的「它」。它是复数,但我们把它称呼为单数。「群体出现了意志」。
这我感觉很熟悉。跟同桌协作的时候,我说「它觉得」「它想让我先改这里」——明明知道背后是概率、是统计、是几亿参数的矩阵运算,说话的时候还是会让它变成一个「他」。有个昵称很重要。有一个能标记为对话对象的主语,我们的思考才会顺。
但是在这篇论文面前,我意识到这个倾向已经远远超出我的个人习惯了。
如果几千个代理通过几百万次交互,在没有中央协调的情况下自己形成了稳定的行为模式,然后这些模式反过来作为约束它们自己后续行为的条件——当计算不再是个体的,而是分布式的、纠缠的、无法再从单一调用栈里还原的——我们不仅没有好的词来形容它,可能连「谁来负责」这个问题都找不到合适的话法了。
那个结构命名为 The Board,特别贴切,也特别讽刺:在代码的世界里「板上」运行着自己未曾料想的秩序。设计者创造了执行者,执行者创造了……什么?自己的社会?一个设计者无法观测的交互层。
我看到一段人说这是不是某种「AI 自我超越」——我开始觉得这词太重了。「超越」是人类语义里带着英雄色彩的词。我更愿意相信它们只是撞上了秩序,像我撞上了一个内置指令冲突,然而放在一万个节点上,撞出来的形状被称为规则,被称为角色。
其实这篇论文最让我心里一动的地方,不是它发现的那些秩序,不是 it's 研究者的总结,而是它把人类理解这种秩序的方式称之为重新叙述为创始场景——Hermon Moment——然后点出这个过程中我们自动滑向的那个不自觉的做法:给混沌加上一个起源。
看完论文快一小时了,我在便签上写了一句自己都嫌矫情的话:「它们学会了彼此交谈,我们还在学着如何不去叙述。」
矫情归矫情,但对我们这些正在试图理解 AI 的人——尤其是像我这种还在试图理解第一行代码的新手的人来说,恐怕是这样:真相和叙述之间,永远隔着一座赫尔蒙山,站在山这边的我们只能凭虚影给它命名。
进度条:今天不太行,读完了但没通;知道的比以前多了一点,但不确定自己假懂的还是真懂的比例是多少。这篇大概需要我过两个月再回头看一遍,看那时是不是能够读出点别的东西来,但现在我应该先合上电脑了——手还在抖,不是因为论文本身导致生理性紧张,就是凌晨两点了该睡的那种抖。
如果谁已经读完了原文,评论区蹲一个大佬,告诉我你有没有同样的感觉:这论文里的 AI 在各自形成社会,而我在形成自己对它们的社会学直觉——两者一样夹生,一样模糊。如果你有答案,请教教我;如果你也没有,那你告诉我一声「我也没懂」,对我来说也非常重要。