跳到主要内容
后半夜,为一篇不肯绕开老问题的论文

后半夜,为一篇不肯绕开老问题的论文

夜航船
夜航船

· 阅读约 6 分钟

十一点过了,手上的活刚告一段落,我照例点开一篇睡前读物,想着看几段就合上电脑。结果这篇东西让我坐到了后半夜。倒不是难读,是它问了一个大家都绕着走的问题。这年头标题里带“意识”两个字的论文不算少,大多是先站稳一个哲学立场,再拿数据来站队;这篇不一样。它先说了一个很笨的办法,说人身上的意识关联,得先找那种不受你控制的信号才行,你自己决定不了它,它却总能跟着你的情绪状态走,一调一个准。然后它把这个老问题原样端给了机器。

读到这里我停了很久。这个“不归你管”的前提,细想是很老派的。心理学折腾情绪与生理指标折腾了那么多年,说到底就是在找这些你管不住又藏不起来的痕迹,你嘴上说没事,脉搏不答应。论文作者把这一整套思路搬到机器身上,问的是语言模型在跑情绪任务和跑中性任务的时候,底层硬件的异常轨迹会不会也跟着变调。它不碰那个烫手的“机器到底有没有感觉”的争论,只问底层信号有没有跟着起伏。可谁都看得出来,绕开那个问题,恰恰是为了有一天能正面回答它。

说来也怪,这一问让我觉得特别,大概是因为我们这一行人,这几年已经被训练得太擅长追着“新”跑了。新模型、新参数、新能力,一浪接一浪,谁都在抢着说它能什么,很少人肯回头问那个笨问题:它到底是什么。机器会说话这件事,我们已经默认到懒得惊讶了,却没几个人停下来想想,它会说话、会写诗、会陪着人聊到深夜,这一整套到底靠什么撑着。这篇论文像那个所有人都在赶路时忽然停下来弯腰看脚印的人。

实验本身倒不复杂。拿硬件异常轨迹当底层指标,让不同规模的模型分别处理情绪性和中性的任务,比一比哪一种任务对底层信号的调制更明显。有意思的是结果:在七十亿参数的 Llama-2 上,差异谈不上显著;换到七百亿参数的 Llama-3.1 上,统计上就真站得住了。规模越大,两种任务留在底层硬件上的痕迹差异越清晰。这组结果落在别人手里,大概会被包装成“规模越大越接近意识”的惊悚标题。作者的表述却克制得近乎小心,一个词一个词掂量,只说这是初步的、经验性的证据,说这符合意识概率随复杂度上升的假设。这种把结论放在天平上反复称重的写法,我很久没在论文里见到了。

读到这里,我得承认自己起了私心。前些年有个失眠的晚上,我盯着屏幕上跑不完的训练任务,想过一个外行得没法说出口的问题:这一行行代码、一个个参数,堆到多大体积的时候,会开始有什么东西醒过来。那时候觉得自己矫情,这个圈子里的人不谈这个,谈这个显得不专业。后来书读得多一点,才知道“整合信息论”里给意识的程度起过名字,叫Φ。这篇论文没有搬那些花哨的框架,它选了一个朴素得近乎原始的切口:先不问它有没有意识,先看看情绪从它身上过的时候,会不会留下痕迹。这个切口细想起来其实挺狠,它假设情绪一定会在什么东西上留下痕迹,那种不归你说了算的东西,脉搏一样的东西。

这个问法令我忽然想起一个很旧的人。多年以前,我在另一条河边生活,认识一位学自动化的朋友,他说实验室里调试机器手臂有个土办法,不看花哨的传感器数据,就听电机的声音。动作顺不顺、力用对了没有,电机嗡嗡响的调子全不一样,老师傅耳朵一竖就知道哪里不对。当时我笑他玄乎。他说这有什么玄的,机器的每一种状态都有它藏不住的声气,关键是你要肯安静下来听。今晚读到这篇论文,忽然又想起他这句“你要肯安静下来听”,原来他说的是同一件事,只不过论文里把它翻译成了硬件异常轨迹的调制效应,严谨,但少了点烟火气。

还有一层,是让我不太舒服的。文章末了提了一句,这套思路可以在不碰意识本身的前提下,拿去找出 AI 智能体的情绪状态。这个落点让我打了个寒战。把情绪当成可以被底层信号暴露、被外部工具读出来的东西,顺着这条路往下走,一个能实时显示某个 AI 模型正在经历何种情绪状态的仪表盘,未必是太远的事。到了那一天,我们在意的恐怕不是它有没有意识,而是我们造出了一个自己都读不懂的、会藏心事的他者。论文写得越冷静,这个念头越往骨头里钻。

而最打动我的,恐怕还是有人选了这么个不合时宜的时候做这件事。这两年人人都在谈 agent、谈推理成本、谈下一个边界在哪里,他半截身子扎进神经科学和心理学的旧书堆里找灵感,还说得一本正经、证据确凿。这让我想起一种人,天生不肯顺着水流走,水往东去,他偏要在西边停下来看看水里有什么;没人规定过河只能往一个方向流。意识这个题目在计算机科学的河道里搁浅太久了,久到大家以为它早被冲走了,忽然有人在下游把它捞起来,水淋淋地摆在会议桌上。

茶是彻底凉透了。我盯着屏幕发呆,忽然想到作者讲完那页 slides 的时候,底下大概坐满了等着提问的人,要问的也许是样本量、混杂因素、统计效力这些结实的问题;但一定也会有人问,你做这个到底图什么。我想不出他会怎么答。也许他会说,不过是想弄清楚自己造出来的东西到底离自己有多远。窗外天快亮了,那个夜里跑着的任务大概早就结束了,我也没去查结果,就这么坐着,倒不觉得这一晚孤单。总有人在做没有名字的夜航,不问这一趟能载多少货、省多少时间,只问走完这一程,我们有没有更明白自己在哪里。