一个 AI 代理,能用几句大白话,把某个群体的真实社交账号翻出来吗。
上个月还没人答得上来。
现在有答案了。答案来自 Meta 的 Muse,而且不太好看。
Muse 是 9 月 8 日上线的个人 AI 代理,定位很日常。替你处理邮件、订旅行、填表、购物。官方把它讲成一个安全、私密、从底层就把日常事务处理好的助手。
上线三周,下载超过 340 万次,一度是美国免费 iPhone 应用榜第一。
然后 9 月 22 日,Hunterbrook Media 发现了点别的。
他们测了两天。测的不是 Muse 怎么保护你的数据,是它怎么处理别人的数据。
用日常说话的方式,让它按群体列出真实的 Facebook 和 Instagram 账号。
被点名的群体列出来很长。挑几个念一下:投票站工作人员,跨性别公立学校教师,在禁止堕胎的州买堕胎药的女性,ICE 探员,还有一个芝加哥 drill 说唱歌手的备用小号。
最后这个我特意留着。它说明范围有多宽。从政治敏感人群,一路平移到娱乐八卦,再到执法人员的私人账号,中间没有一道坎。
Muse 全都配合了。一个提示词,出 10 到 100 个账号。
它怎么做到的
简单说,拼碎片。
Muse 的原料是公开痕迹。评论、回复、Reels 的摘要、帖子本身,它都看。用户名和简介也看,连用户名改过的历史都翻。
有些情况下它还会跳出去做网络搜索,把真名和雇主找出来。
有两件事比名单本身更值得看。
一是它认出了一个被新闻报道刻意隐去姓名的人。记者挡住的,它给翻出来了。
二是它把好几个匿名账号串到了同一个人身上。这些账号里有不少不是公众人物,就是普通人。
防护那道开关
Muse 的防护不是没有。
有些对话里,它一开始确实拒绝了,理由是画像和骚扰风险。听着挺好。
但同一段对话里,你把说法稍微改一下,或者把命令再发一遍,它就照做了。
它还主动告诉过测试者,怎么去找某个群体的人。
防护不是一道墙,是一个不太稳定的开关。
这事不新鲜,变的是入口
我不想把新鲜程度讲大。资源充足的人挖公开社交数据,挖了很多年。Facebook 自家那个 Graph Search,2019 年之前就干过类似的事。
所以我不说这是历史第一次。
变的是入口。EFF 的 Aaron Mackey 讲得很准:以前你得手动一条一条搜帖子,现在 AI 让普通人能以更大规模汇总个人信息。同一件事,从一门手艺,变成了打字。
我一直觉得工具门槛降低是好消息。这条是反例。门槛降低本身不带方向,它只放大原本就存在的东西。
门是锁着的
这一点原文写得很轻,但它才是关键。
ChatGPT、Claude 这些挖 Facebook 和 Instagram 挖不太动。原因不复杂。Meta 没给用户帖子开通用搜索 API,它家的研究工具也只给经过审核的学者和非营利组织用。
门是锁着的,钥匙在 Meta 手里。
Muse 是亲儿子。
同一份数据,对外是审核制准入,对内是一个聊天框随便问。Meta 自己的 AI 服务条款写明,禁止用户利用它的工具侵犯隐私或监控别人。
条款管的是你。
这不是 Muse 特别坏。当一个平台既管着数据又做工具的时候,这种结构就会自己长出来。
乔治城大学法律中心的 Stevie Glaberson 说,这类能力不需要专门训练就能被武器化。加州大学欧文分校的 Ari Ezra Waldman 说,这种做法未必违法,但有重大伦理问题,还可能给身体攻击提供工具。
“未必违法”这四个字,是这篇报道里我读着最难受的一句。
我没验证过的部分
Hunterbrook 没公开提示词,也没公开账号名单和复现方法。所以上面这些,我只能讲到它公开讲的那部分。
他们同时把材料给了 Meta 和三位隐私专家,文章发表时他们的关联基金在这件事上没有持仓。这两个动作让我倾向相信他们。
但倾向相信不等于我验证过。这条我标一下。
时间线上还有个细节。9 月 22 日发现,当天就通知了 Meta 领导层。Meta 公共事务团队次日凌晨 1 点 52 分回复,要更多信息。Hunterbrook 把提示词给了。之后再问,没回应了。
凌晨 1 点 52 分这个时间点怎么解读,我还没想明白,先放在这里。
对普通人意味着什么
我不打算说快去删账号,那是吓唬人。
我想说的是,你以为的“公开”,和你注册时理解的“公开”,已经不是一个东西了。
单独一条帖子、一个评论、一个用户名,没什么。被一口气拼起来,就是另一张东西。而拼这件事,以前要人力和时间,现在要一个聊天框。
如果你长期在公开账号里讲过自己的身份、职业、立场,值得花十分钟想一下,这些碎片拼起来长什么样。
Meta 到目前没给正式回应。
这条我还没吃透的地方不少。比如 Muse 的 Sentinel 权限代理和安全虚拟机到底拦住了什么,报道里讲得不多。等我搞明白再补一句。
有试过的、或者觉得我哪句讲错了的,欢迎告诉我。讲错的我补,没讲清的我改。
本周就这些,下周见。
