“Unlearning”这词被讲得跟给模型做前额叶切除似的。
我一开始也这么以为。看到那篇讲 Compositional Concept Unlearning 的论文(arXiv:2610.29223,上个月 21 号挂上去的,cs.CL),脑子里的第一反应就是:哦,又在权重上动刀,把某个概念从参数里挖掉。
第一版我画成这样:
┌────────── 模型 + 索引 ──────────┐
│ [概念 A] [概念 B] [×× 挖掉 ××] │
└──────────────────────────────────┘
挖掉之后,问也问不出来
那个“×× 挖掉 ××”我画得挺得意,还给它描了个框。结果翻开论文——编码器没动,文档索引没动,模型更没动。C²U 全程只干一件事:在进来的查询上叠一个东西。
重画:
用户查询 ──► [ + 增量 Δ ] ──► 固定编码器 ──► 固定文档索引 ──► 检索结果 ──► 生成器
▲
只在这里动手
左边那个方括号是全文唯一被改的地方。右边从编码器到生成器,一个字都没碰。
我当时有点无语——本来想看论文怎么在向量空间里删掉某个概念,结果它的答案是“不去碰那个向量空间”。
那个 Δ 到底是什么
论文里的说法是,它叠加的是“编辑后减原始”的增量,而且有界。
我知道这听起来像没解释。我试着画一下我理解的版本:
原始查询向量 q
│
├──► 沿着概念方向推一点 ──► q'(编辑后)
│
└──► q' - q = Δ(增量)
最后用的不是 q',是 q + Δ。增量本身有上限。
所以它的做法不是“换一个查询”,而是在原查询上贴一个方向性的小偏移,让检索把跟目标概念相关的东西往后排。
至于这个方向怎么来——作者是从用户画像里推出来的,再经过一个扩增的原子库做路由。到“路由”这一步,我承认我盯着看了半天,脑子里没有画面。这部分我还没画明白,先放在这里,等我想清楚了再补。
打个比方,好抓住大方向:这不像从图书馆里把书抽走,更像在你的借书单上附一行小字——“同类的那几本先别拿”。书还在架子上,索引没变,别人问同一件事,照样能借到。
这个比喻在哪里漏风,我得标出来:借书单改的是“你这次想要什么”,它管不住另一件事——如果检索回来的别的证据里本身就夹着那个概念,生成器照样会把它带出来。C²U 压根没打算管这一层。它在查询侧做的事,精度再高,也只是把“查询主动撞上概念”这条路堵住,堵不住“概念被人顺手捎进来”。
我真正在意的不是那 4.25 个点
实验覆盖五个数据集、四种编码器、三个随机种子。在验证集上选出来的配置,把汇总二元目标概念的 Hit@5 打下去 4.25 个百分点;对照查询没有出现正方向的性能退化,目标暴露的变化也没超过基线。
4.25 个百分点,这数字不大。我反倒觉得这是它诚实的证据——真要有人告诉你某个查询侧的微调能把概念命中率一刀切到零,那才该怀疑。
真正让我“咔哒”一下的是论文开头的动机,一句话:RAG 就算生成器本身已经审过、已经对齐过,检索回来的证据还是会把不想要的概念暴露出来。
这句才是全文的钩子。它说的是——你的防线放错位置了。你在生成器上加的审查,管的是“模型自己会不会说”,管不了“我塞给它一段材料,它照着材料说”。证据是外来的,生成器是转述的。
C²U 干的事,是把防线往前挪一格,挪到查询进检索之前。挪得对不对可以再吵,但这个方向的判断我认:如果暴露的入口是检索,那你在生成侧修一辈子也修不到那个入口。
组合那块,和我卡住的地方
在以 ArXiv 数据搭的四概念组合任务上,它经过一道独立验证关卡和一次首次使用测试,赢过了拿“平均方向”当增量的对照方法。这个对照选得不算敷衍——“平均方向”是我能想到的最省事的做法,它要是都能打平,这论文就没必要写了。
不过有两处我还没想通。
一是那个“有界”的界。增量有上限,好处是不会把查询带跑偏;可上限卡在哪,直接决定了它对“贴边”的查询有多敏感。一个本来就快挨着目标概念的查询,你给它叠一个被截断的 Δ,它是刚好被推开,还是原地不动?我不知道,论文里这块我没看到能让我放心的画法。
二是组合概念。单概念抑制和四概念组合是两回事,后者要求你在查询里同时压住几个方向,而方向之间会不会互相干扰——这个我连比喻都还没想好怎么打。
所以这篇我不敢说“我看懂了”。我搞懂的是它把刀架在哪儿;没搞懂的是这把刀切多深。这两件事差得挺远。
自检
照例留一道:现在你能不能用自己的话,跟一个没读过这篇的人讲明白——为什么“概念反学习”可以不碰模型?
如果讲到一半你发现自己想说“它在模型里删掉了什么”,那就是卡在我第一版画错的那个地方。停一下,把那张图画回来:编码器、索引、生成器三个框,只有一个方括号能动。
这玩意儿其实挺酷的。酷的不是它删掉了什么,是它证明了——有些你以为必须动模型才能解决的问题,压根不用动模型。
下期想画开哪个:“扩增原子库路由”我迟早得画明白,或者你有更想看的,说一声。
