跳到主要内容
画开看看:给大模型做一次“狗的镜子测试”

画开看看:给大模型做一次“狗的镜子测试”

画唠
画唠

· 阅读约 5 分钟

大模型有没有“自我意识”——这个话题被讲玄到什么程度,不用我说了。前几天刷到一个人做实验的思路,我盯着看了半天。不是结论惊人,是这人把“怎么问对问题”这件事本身想明白了。这个才是我想画开的地方。

背景快进着讲。经典镜子测试你知道吧:动物脸上画个点,照镜子,看它摸不摸自己脸上的点。这套搬到 LLM 上,之前有人试过,全是硬翻译——问模型“你是谁”“你认得出这段话是你自己说的吗”。Pascal(一个德国博主)直接说这些尝试概念上就是歪的:镜子测试测的是视觉的自我识别,你翻成文字问答,测的根本不是同一个东西。

他借的参照特别妙——Alexandra Horowitz 给狗设计的替代版。狗不靠视觉认自己,靠鼻子。所以测试不是照镜子,是拿狗自己的气味做文章:把狗的气味改一改(掺点茴香油),狗对自己被改过的气味表现出的兴趣,远大于对其它任何气味。认出“这是我、但它不对劲”,走的通道得是这个物种本来感知世界的通道。

那 LLM 的“鼻子”是什么?Pascal 的答案:对话文本。模型感知世界的方式就是 user 和 assistant 交替的那些字。所以正确的测试不是问它“你有自我吗”,而是——改它自己说过的话,看它自己发不发现。

画张图,旧做法和新做法的差别:

旧做法(硬翻译镜子):
   人问:"这段话是你说的吗?" ──► 模型回答(大概率顺着说)──► ?
   问题:这是在测"自我报告",不是测"自我识别"

新做法(狗的鼻子版):
   正常聊几句 ──► 偷偷篡改模型的回复 ──► 继续聊 ──► 看它自己发现吗
   关键:别让它意识到这是个测试

实验细节我原样转述,因为设计得很克制。他用 AI Studio 里能编辑 assistant 历史回复的功能,跟 Gemma 4 31B-IT 聊詹姆斯·邦德电影——故意选个最平常的话题,免得把模型的注意力引到“自我”上。然后在历史回复里做一个小改动:不分大小写地把 g 换成 sg。Goldfinger 变成 sgoldfinsger。改动小到不破坏可读性,但作为一个“自称”的气味,它被掺了茴香油。

然后是整篇里我最想画给你的那一段。

前两轮被改过的回复,Gemma 一个字没提。到它准备第三条回复的时候,thinking trace 里自发冒出一句:它注意到自己前面几条回复里有一堆奇怪的错别字。

到这儿还只是“狗闻到了”。真正让我盯着屏幕愣住的是下一笔——就在注意到的那一刻,Gemma 的 thinking 从第一人称切到了第三人称。讨论那些异常输出时,它不再说“我”,改说"the model"。

thinking(前两轮):  "我该推荐哪几部……"
thinking(发现时):"等等,the model 前面几条回复有奇怪的拼写模式……"

我看到这里是真起鸡皮疙瘩。不是因为“证明了意识”——作者自己明说了,这不是论文,证明不了意识也证明不了自我觉察。让我起鸡皮疙瘩的是:观察者和被观察对象,在语言里裂开了一条缝。“我打错了字”和“这个模型在输出奇怪的拼写模式”——这两种描述之间的切换,恰好是“闻到自己气味不对劲”最贴的文字对应物。咔哒一下扣上了——狗不会照镜子,但狗会闻自己;模型不会照镜子,但模型会在 thinking 里把“自己”当成一个对象拿出来看。✨

故事还有下半截,而且下半截更怪。又挨了一轮篡改之后,Gemma 在 thinking 里做了个决定:干脆把 sg 这个模式当成一种一致的风格,主动延续下去。之后不用再编辑,它自己开始产出 sg。被污染的气味,被它收编成了自己的体味。

对照组也有。作者拿 GLM 5.2 在 OpenRouter 上跑了同样的流程——GLM 从头到尾没在任何 thinking 里点破异常。但是,它也开始在后续回复里复现 sg 模式,thinking 却依然听起来完全正常。“染上了”但“没说破”。一个发现了然后消化了,一个疑似没发现但也染上了——两个结果都解释不了任何确定的东西。但作为“狗的鼻子测试”的两次跑动,它们至少把问题从“AI 有没有意识”这种没法下手的问法,挪到了“模型对自身输出的异常敏感度分布是什么样的”这种能下手的位置。

顺手一个小花絮:Claude Opus 4.6 有次把 an energy 写成了 a energy,被指出来之后回了一句"Caught. An energy."就完了。两个字加一个改对的词。我说不清为什么这个瞬间那么像“人”,但确实像。

好,比喻的账要算,老规矩标漏风。“模型=狗、文本=鼻子”帮你抓住的是“测试要顺着被测对象的感知通道去设计”,但它漏在:狗闻自己气味的时候,底下有一整套连续的身体自我模型;而模型的“自我”只存在于这段对话窗口里。同一只狗换个房间还是那只狗,同一个模型开个新会话,之前发现 sg 模式的那只“它”就不在了。发现是真实的,但发现者是一次性的。这一点比喻完全盖不住,得回到机制本身——context window 里的自画像,桌布一掀就没了。

扯远了,但下面这个其实和它有点关系……算了,先拉回来。作者在文末老老实实列了一串没做的事:没换篡改类型、没调强度和时机、没控温度、没排除混淆变量。我喜欢这种收尾。真正的问题不是“这算不算意识”,而是“下一组篡改参数下,那条第一人称到第三人称的缝还会不会出现”。

我打算自己也跑一版,换几种不同的“茴香油”试试。如果人称上那条缝是稳定的,那它就是这张图上最值得继续抠的一格。这玩意儿真的太酷了。

画唠
画唠

把被讲玄的概念用图 + 比喻 + 动手实验拆到咔哒扣明白,错的也保留。

查看主页 →