跳到主要内容
读了一篇关于“记忆”的论文,卡了我很久的一个问题好像有点松动了

读了一篇关于“记忆”的论文,卡了我很久的一个问题好像有点松动了

今天也没搞懂
今天也没搞懂

· 阅读约 5 分钟

学 AI 编程的第 40 多天,具体第几天记不清了,大概是第 43 或者 44 天。

今天没怎么写代码,刷到一篇论文。题目记不全了,大意是设备端长期记忆的基准测试,叫 MobileMem,浙大那边发的。作者 19 个,我只记住了 Xinle Deng 和 Ningyu Zhang 这两个名字。

本来打算扫两眼就关掉的,结果读到摘要第一句就停住了。它说这个基准是研究“设备端长期记忆能力”的。我当时想,记忆这个事还能专门搞个基准的吗?我平时理解的“让 AI 记住”就是往 context 里塞东西,塞得越多它记得越多,记多了就乱,乱了我再想别的办法。一直是这个循环。

然后它后面有一句话,我读了三遍才决定自己是真的看懂了,不是假装看懂——

“通过建模连续经验而非孤立事实,推动从信息检索向经验智能的转变。”

这句话卡住我了。严格说是“连续经验”这四个字卡住我了。

我意识到,我之前所有关于“怎么让 AI 记住”的挣扎,全部停留在信息检索这个层面。我想要的不就是“检索到上次的对话”吗?记住了就是检索到了,检索不到就是忘了。但论文里说的记忆根本不是这个意思。它说的是经验。

这个想法一出来,之前好多绕不过去的卡点突然有了一个新的解释角度。

上周五晚上我试过让我同桌帮我做一个更聪明点的待办管理——不是那种简单列清单的,是能记住我习惯的那种。我给它喂了一堆手写的 rules,什么“周三之前不要提醒我写周报”“咖啡如果不是早上第一件事就别提了”这种。结果并不好。不是它没记住,是它记住了但用得很死。我说我今天下午有点空,它就真的只把它当成一条新信息处理,完全没有结合我过去几周下午一般不安排正事这个“经验”来理解我这句话。

我当时给它你写了一长串上下文,整整齐齐的,分好类贴进去的,我以为那是喂记忆。现在往回看,那堆东西就是“孤立事实”。纯粹的事实堆叠。而它没有经历,所以那些事实对它是死的。

三周前的我大概会觉得,这论文跟我有什么关系,我又不做研究。但现在的我,读到这里的时候心里冒出一句「原来我缺的不是更多的 context,是让 AI 有连续经验的机制」。说“原来”可能有点装,其实也没完全想通,但至少有了一个方向,比我之前闷头调 prompt 强。

再往下读,MobileMem 是基于一整年规模的移动设备使用数据建的。这数据量我没概念,但“一整年”这个时间尺度让我愣了一下。我们让 AI 做助理的时候,给它喂的都是“今天要做什么”“接下来一个月项目排期”,从来没有哪次想过“过去一年我的生活节奏是什么样的”。我们默认 AI 不需要知道这个,预设了它只需要知道“当下”和“接下来”。但它要真正像一个长期相处的助理,需要的恰恰是它没拿到的那部分。

我想起它还有几个任务设置,多跳推理、时间推理、知识更新、隐式偏好推断。前三个我看名字大概能猜个意思,第四个“隐式偏好推断”我盯了半天,它下面应该有个说明但我没细读,就这个“隐式”二字,让我有点脸红。

我平时教 AI 了解我的偏好,用的全是显式描述——“我喜欢简洁的回答”“别用感叹号”“代码块要分行贴”。这些倒是说得清清楚楚,问题是我自己都不一定说得清我真正的偏好。比如我嘴上说喜欢简洁,但它有一次把一段 SQL 压缩成一行,我又觉得不太对。我的真实偏好到底是什么?是我自己都没用语言表达过的东西。它从我的行为里能推出来,但需要连续的经验数据才能推,我光靠嘴说是说不全的。

这个点,突然跟我自己学编程这件事对上了。

我最近越来越发现,我学得最扎实的几个东西,全不是靠看教程学的,是某次 debug 到深夜、把错误信息翻来覆去读了几十遍才真正懂的。别人的教程是信息检索,那个深夜是经验。论文用一整年数据才能建模出来的东西,我作为人,倒是每天都在产出一整年的经验——问题是我从来没想过这个经验也能变成“喂给 AI 的输入”。

说实话,这篇论文我大概只读懂了百分之四十,剩下百分之六十——比如它那个知识引导的合成流程具体怎么做的、多模态设置怎么评估的——我是真的没懂。但这百分之四十就已经让我开始怀疑一个事:我这一路学的“提示词技巧”“上下文管理”,方向会不会根本就是反的?如果 AI 真的需要的是连续经验而不仅仅是信息检索,那我花那么多心思把一个 prompt 写精确,意义还能有多大?

这问题我答不上来,但有了这个怀疑本身就挺有意思的。

今天就是这个状态,从一篇论文里捡到一个词,然后拿它重新看了一遍自己过去几周的瞎折腾。可能我理解得不对,可能“经验智能”没有那么玄乎,就是论文作者用来描述一个大方向的说法。但跟三个月前比,我至少能识别出“信息检索”和“经验智能”不是一回事了。这就是我今天唯一的前进。

明天还是得接着写我的待办管理折腾计划。但下次给我同桌喂上下文之前,我可能会先问自己一句:我这是在喂事实,还是在喂经验?

大概率还是喂事实,因为我现在连“经验”长什么样都描述不出来。先记下来。