HEIST Berlin 上周一那篇 AfD 内部邮件泄露的报道里,一个表述把我从自己的线口上拽过去了:他们用 AI 生成的摘要来呈现这批材料(确认,据 HEIST 报道)。这个操作本身比邮件里那些内容更该拆开看。
我的判断一句话:AI 摘要在这篇稿子里被当成透明管道来用——"我们只是告诉你邮件里有什么"。但它不是。它是有损、有偏、还会编的压缩器,而且全文没有交代这层是怎么跑的、丢了多少、改了多少。对一篇靠揭露立身的稿子来说,这不是细节,是信源结构问题。信源等级一糊,你连该指哪一句错了都说不清。
先把能确认的确认掉。能确认的(确认):一个 281GB 的档案,据称包含 421,179 封 AfD 内部邮件,上周一被放到网上;HEIST Berlin——一家自称 worker-owned 的柏林线上杂志——在 10 月 20 日的文章里报道了这件事。据 HEIST 报道(据 HEIST 报道,未交叉证实):邮件里有种族主义诽谤、关于犹太人全球统治的反犹阴谋论,以及相当具体的暴力幻想——包括把难民做成包和靴子、在边境射杀难民。同一篇报道还说,材料里有一张印着卐字符和纳粹敬礼的圣诞卡,以及一个以纳粹胜利口号结尾的邮件串。另外提到涉嫌财务不当行为的迹象。
这些指控每条都够重,但政治线口不是我的活,我没能力核验,也不该由我写。我盯着的是"AI-generated summaries"。据 HEIST 自己的描述,这些材料通过 AI 生成的摘要来呈现。这句里有个我天天在跟的机制问题:规模大到人工逐条核不过来时,AI 摘要是唯一经济上可行的路径——这个我认。但摘要这步一走,读者看到的是什么,就不再由原始材料决定了。
42 万封邮件什么概念?就算派三个熟练编辑专职看,一封平均按一两百词算,逐封通读一遍的时间成本就不现实。更别说跨语种、通讯录格式混乱、附件这些,人工核验成本再往上推一个量级。所以 HEIST 用 AI 摘要,从操作逻辑上不是偷懒,是被规模逼出来的。这个判断我先放这里,不算批评。
问题出在摘要这个动作本身。
摘要不是压缩。压缩可逆。摘要有损、是重写,是把原始材料交给模型,让模型告诉你"这堆东西说了什么"。模型回答这个问题时,不只是挑重点,它会归类,把语气抹平,原话引用压到最低。一封邮件里那种原始、具体、让人发冷的野蛮,到摘要层出来,大概率变成一句"包含对难民的暴力幻想"——干净、可归档、适合放进文章的标签。
HEIST 报道里真正有冲击力的细节——圣诞卡上的卐字符、纳粹胜利口号、难民做成包和靴子——这些有"原始材料"的质地。具体到没法被一个模型凭空编出来。也就是说,这些段落大概率是有人从原始档案里人工摘出来的,不是摘要层自己生成的。那"AI-generated summaries"这个说法就不完整。它掩盖了人工介入的程度:哪些是模型摘的、哪些是人挑的、人挑的时候有没有倾向,这些都没交代。
我写东西有个笨习惯:每段话都标上属于哪一档——(确认)公开可查,(据几位在职的人说)匿名消息源说的,(未证实)只有一个信源还没交叉核实,(分析)我个人判断,不冒充事实。写出来也难看,但作用只有一个:读者知道哪句话该拿哪一档信任度来读。HEIST 这篇没有。它把"原始邮件里有的"和"模型替你总结出来的"之间的间隔吞掉了。读者分不清哪句是材料自己说的,哪句是摘要层归出来的。这比报道失实更麻烦。报道失实,有人指出"这句话错了",纠错有明确落点;信源等级被糊掉,连"你这里搞错了"都指不进去,因为对方永远可以说"这是摘要的表述,不是原文的表述"。
这其实是我此前记录过的一个机制的镜像。大厂 AI 编程工具过合规审查那套流程,我记过四步:数据出域申请、模型审计、代码留痕、权限分级。那套东西为什么这么重,核心就一条:AI 生成或处理过的内容,必须能追溯、能审计、能留痕,否则出了事没人说得清是谁改的、在哪一步改的。一个平台同学的原话我至今记得:"工具是能开,开了我们过不了审计,那就先关着。"那是"能力在场、权限收着",因为审计红线在后头顶着。
HEIST 这边没有这条红线。42 万封内部邮件推给一个没交代的摘要管线,然后说"这是 AI 生成的摘要"。大厂担心的是"代码请求出域",HEIST 这里直接是"内容出域"——不是技术意义上的数据出域,是证据链上的出域。原始邮件里的原话、语气、上下文、内部代号、私下的暴力幻想——这些东西的准确质地,在摘要层里被置换成了"包含某某指控"的标签。标签可以被质疑、被重新分类、被辩护;证据不是。
这里我得说句自己心里打鼓的话。我不是说 HEIST 的报道因此不可信。恰恰相反,它那篇稿子里那些具体到不可理喻的细节——纳粹胜利口号结尾的邮件串、那张圣诞卡——反而让我倾向于相信它确实看过原始材料。但"看过原始材料"和"让读者也能看到原始材料"是两回事。它把后者交给了摘要层,然后没告诉读者这层是什么、怎么跑、丢了多少。这就把证据问题变成了一次信任操作。我干这行的第一条原则:信任操作不出现在信源结构上,只出现在信源交代上。你告诉我"这段是哪个模型摘要的、原始邮件还在不在、能不能抽检",我就按你交代的等级来读;你什么都不交代,只说"AI 摘要呈现",那我只能按最严格那档读:这篇文章里的每一项指控,都降级成"据 HEIST 转述 AI 摘要,未证实"。
再补一点,HEIST Berlin 的定位。它自称 worker-owned。这个词意味着什么,我了解不多,但可以做基本机制推断(分析):大概率没有传统编辑部的层级和专职核验团队。不是替它开脱——worker-owned 不是降低信源标准的理由,但它解释了为什么"AI 摘要"会被当成可以接受的方案。资源有限的编辑部面对 42 万封邮件,人手根本不够,于是选了这条看起来能放大产量、又能维持"客观呈现"外观的路。这个选择本身就是判断:判断读者会接受"AI 摘要"作呈现方式,不去追问它和原始材料的差距。到目前,这个判断似乎没错——我看了一圈,还没人专门拆这篇的摘要管线。这也是我写这篇的原因。
(分析)还有一点。摘要层不只是丢信息,它改变信息的种类。原始邮件里的东西是证据——具体,能定位,能复核。摘要层出来的东西是标签——分类、概括、可归档。HEIST 那篇把所有指控都写成了标签式描述:种族主义诽谤、反犹阴谋论、暴力幻想、财务不当行为。这些标签每个大概率准确——但准确只是摘要层的最低标准。一篇揭露报道真正值钱的不是标签准确,是证据可核。标签准确但证据链断掉,等于告诉读者"我替你看了,你信我就行"。这不是揭露的逻辑。
写到这火气有点上来,得往回拉。我不是说 HEIST 不该用 AI。它用不用 AI 不是我要管的。我要记下来的是这个操作怎么改变了"信源-呈现-读者"这条链。它给读者的不是一个可核验的证据,而是一个可阅读的标签集。两者的区别,在所有揭发性报道里都是命门。AI 摘要再好,只是把这个区别变得更隐蔽,而不是把它消掉。
几个值得盯的信号,不下注,列出来一起看:一、HEIST Berlin 接下来会不会公开摘要管线——什么模型、原始档案是否可检索、有没有人工抽检、抽检比例多少。这是最直接的一条。二、有没有独立于 HEIST 的人去核验原始档案,哪怕只抽几封,看摘要是否偏离原意。这是整件事里唯一能重建证据链的方式。三、AfD 方面如果回应,口径是冲"AI 摘要不可信"来,还是冲具体指控来。前者说明这层信源结构漏洞已被对家看见;后者反而说明材料本身硬到没法用信源问题挡。四、HEIST 之后会不会把这套"AI 摘要呈现泄露材料"的操作复制到下一次类似报道上。这是我作为行业观察者最实质的一条:如果复制,说明被内部当成了可复用流程;没复制,说明这次是权宜之计。四条都可在一两个月内验证,不靠预测,靠盯。本期到这,有更准确信源的同学欢迎匿名补充。
