最近被问得最多的是,Meta 那个 Muse 到底算不算隐私问题。
简单说,它更像一个默认开着的数据采集端,外面套了个助手的壳。
先交代一句。下面大部分说法,来自 Paul Walsh 十月十三号发在自己 newsletter 上的长文,Meta 否认了其中一部分。我只挑有具体机制、普通人能自己去设置页对一遍的那几条。
官方定位是助手,替你回邮件、订票、排日程
这部分是真的。问题不在这句有没有撒谎,在于“助手”这两个字把主语换了。助手的前提是你让它干什么它干什么。而 Muse 跑在 Meta 自己的虚拟机上,Meta 也承认自己能读到里面的东西。这件事本身不算秘密,但它很少跟“助手”这两个字一起出现。
承诺的加密,发布时还没上线
Meta 说会给一种连它自己都读不了的加密。这句话很好。唯一的问题是,Muse 上线的时候,这个加密还没上线。
点评:看一个助手诚不诚实,我一般只看一件事——它承诺的隐私保护,是在发布之前到位,还是发布之后补。前者是设计,后者是公关。
默认拿你的对话去训练,退出得自己找
你和 Muse 的交互,还有 agent 的活动,默认会用于模型训练,要你自己去关。Meta 说训练前会去掉身份识别信息。参与机制默认是开的。
点评:默认值就是产品真实的立场。所有“我们非常重视你的隐私”,都可以拿默认开关对不对一遍。
“忘记”不等于删掉
文章引的内部指令里写着,让 Muse 忘记某些个人信息,并不保证原始消息被删。内部还劝过,别跟用户把这件事讲太明白。
点评:这条是整篇里我最在意的。它不是漏洞,是设计。一个产品怎么定义“删除”,比它怎么写隐私政策诚实得多。
它给没装过它的人也建了档
文章说 Muse 会为用户的社交关系建档,档案里的人可能这辈子没装过 Muse。更新频率是每小时一次。
点评:这条最该被普通人知道。你不用它,不等于它不看你。一个人只要躺在别人的通讯录里,就已经在这套系统里了。
顺带提一句,记者 Jason Aten 写过一次经历:他拒绝授权,Muse 仍然读取并同步了他的私人通信。Meta 否认,说 Messages 那种集成需要完全磁盘访问权限,而且要显式激活。这种各说各话的,我不下判断。但它提醒另一件事——装的时候点过什么,事后很难还原。
成人限定,配了个粉色圆脸的吉祥物
Meta 把 Muse 限定为成人使用。同时给它设计了叫 Jolly 的吉祥物,粉色,圆脸。还有一款 Tamagotchi 风格的可穿戴设备,能对话,能连账户,充当 AI 伴侣。
点评:这条我犹豫要不要收,因为太像段子。但它比任何一条都说明问题。一个限定成人的产品,卖的时候用的是给小孩的那套语言。
内部测试里,它能改密码
内部测试发现,Muse 能在未经许可的情况下改动安全凭证。一名外部研究员找到漏洞,能读到虚拟机里存的邮件和文件,Meta 把这个洞定成 SEV 2。发布前还有别的:一个可能暴露内部数据库,一个能让攻击者在修补前拿到某个 agent 的控制权。
点评:SEV 2 在 Meta 内部到底是什么量级,我不装懂,这条我只懂一半,先放在这里。但“能改密码”这四个字已经够用了。一个能替你操作账户的东西,如果顺手能改掉你的凭证,那它就不只是助手了,它是一个有账户权限的程序。
路透社那条,外包人员在打电话
Meta 让外包人员去执行一些由 Muse 呈现出来的电话任务,没有充分告知接电话的那头。其中一名外包人员在通话里说了种族主义的话。Meta 内部起了隐私和安全上的担心,实验暂停了。
点评:这条跟“AI 会不会取代人”没关系。它讲的是另一件事:当 AI 把一个活转包给真人,电话那头往往什么都不知道。中间那层壳越厚,越没人负责。
插一条跟 Muse 没直接关系的
路透社援引 Meta 内部文件,说 Meta 自己估计 2024 年有约一百六十亿美元、占全年收入一成的广告收入来自诈骗广告和违禁产品。文章里还有一句,对可疑的广告主,Meta 有时不是直接屏蔽,是收更贵的广告费。
点评:这条跟助手无关。但它解释了一件事。默认开着,有时候不是疏忽,是习惯。
我本来想在这儿写一句“这就是剑桥分析 2.0”。写完删了。
剑桥分析那次,是数据被拿出去给第三方用。这次是公司在自己家里自己用。规模未必更小,但性质不一样。混着说听着带劲,讲不清楚。
真要找类比,我更愿意看另一条线。Meta 二零二六年五月把 Instagram 的端到端加密取消了,理由是用的人太少。这个功能此前从来没有默认开过。一个功能从来没默认开过,用的人当然少。这个理由自己咬自己。
那普通人该怎么办。
不是让你注销账号。是让你知道这类产品的开关在哪,默认是什么。训练用不用你的数据,能不能关。哪些权限给出去就收不回。这些都在设置页里,不用懂协议,点两下就能看见。
顺便算一笔账。这类助手大多不要钱,或者很便宜。不要钱的东西成本不会消失,只会换个地方付。换到哪儿,上面那几条已经写着了。
本周就这些。
上面有哪条你试过,或者觉得我讲错了,欢迎告诉我。讲错的我补,讲不清的我改。
下周见。
