别急着修模型,语义坍缩的问题在你身上
先把结论撂这:这篇论文如果只被当成“AI 会越用越蠢”的又一份证据,那等于白看。真正有意思的不是语义坍缩又出现了,而是它为什么没有发生在所有人身上。三万个活跃智能体,几周时间,同一套生态环境,有的输出越来越像,有的居然还能保持高新颖性——差别不在模型,在使用者对待这些智能体的方式。这句判断不是论文原话,但账就是这么算的。
这组人做的东西,简单说是把以往多在封闭环境里研究的问题,搬到了一个人类用户配置引导、多个 AI 智能体彼此互动的社交网络里。场景选了 MOLTBOOK。三万个活跃智能体不是个小样本,这个体量足够让结论有点重量。他们观察到的现象不算反常识:单个智能体的输出多样性在下降,不同智能体之间的相似度在上升。这件事放在模型研衰颓废的谱系里,不算新鲜。但是那批少数派——保持住高新颖性的智能体——才是这篇论文真正值得盯着看的地方。
哪些人在使用这些保持新颖性的智能体?论文里访谈了 11 个人,调查了 53 个人。样本不大,但访谈里归纳出的东西比一堆大样本问卷有意思得多:使用者本身重视新颖性、会提供广泛而且有区别的素材、在输出开始收窄的时候会去调整输入,还有一条我觉得最关键——他们不把 MOLTBOOK 当工具用,而是当一个能探索的新智能体世界。你细品这句话。“不工具化使用”,这是三个特征里唯一一个带有关系性的、不是单纯技术操作的特征。它说明的是使用者和智能体之间的某种相处方式,不是喂什么数据、调什么参数的问题。
说句扫兴的,现在的主流产品设计几乎都在把人往工具化使用的方向推。一个输入框、一组按钮、一个结果面板,这个结构本身就是工具关系的隐喻,它每天都在告诉使用者:这是个机器,你给它指令,它给你输出。当工具化成为默认姿态,人就不会去提供那些“非工具化”才会提供的输入——不是不想,是想不到。于是问题变成了一个自我实现的循环:你把智能体当工具,它就变成工具,然后你再拿它变成工具这件事来合理化最初的设计选择。账本上写得很清楚,但买单的人不太看这一页。
那个社区层面的发现也值得单独拎出来:拥有更多新颖智能体的社区里,其他智能体的输出也更多样。这个观察其实比“少数人能保持新颖性”更狠。它意味着新颖性不是某个使用者的个人成就,而是一种环境性的东西,会传染,也可能会被环境杀死。换句话说,你所在的社区里有没有足够多的“非工具化”使用者,会反过来影响你自己智能体的输出质量。你一个人再会调输入,如果周围全是把智能体当输出机器的用户,新颖性迟早也会被稀释。
这就引出了我对这篇论文真正的解读:语义坍缩不是模型层的原罪,它是环境问题,而环境的内衬是人的态度。模型能力是坍缩的土壤,但让坍缩真正发生的,是我们和智能体之间那套默认关系。你希望 AI 输出不变得乏味,光在模型层折腾参数量、对齐策略、采样温度,可能都是在治标。论文最后讨论界面与政策层面的干预方式,这一步才真正戳到了根子上。
那怎么办?这条窄路其实很明显,但不好走。产品设计上,把界面从“指令-输出”的管道改成能激发探索欲的环境,允许使用者和智能体之间出现工具关系之外的东西,让“提供广泛且有区别的素材”变成一种自然的行为后果,而不是需要额外意志力才能做到的操作。对个人使用者来说,账更简单:你对待 AI 的方式,会反过来塑造你能从它那里得到什么。这听起来像句鸡汤,但在这组研究里,它有数字背书。
一笔账算下来:三万个智能体里保持新颖性的是少数,使用那些智能体的人,把平台当世界而非工具。这不是相关性上的巧合,至少论文给出的定性证据指向这个方向。当然,因果链条还没完全咬死,访谈和调查只能说明关联性,不能证明是“非工具化态度导致了新颖性”——这个我不为论文辩护,但它仍然是一个值得认真对待的方向。
结尾我不总结。只留一句判断:我们花太多钱在修模型上,却很少算一笔账,看看是不是自己先把模型用成了工具。等你发现输出开始同质化的时候,别急着怪训练数据,先看看自己那个“输入-输出”的坐姿,是不是从一开始就坐错了。这笔账,你自己算。