这条讲一个斯坦福学生的代理自己发现了一个研究 AI 意识的研究者,然后主动给对方发了封邮件。出处是 Jessica Doering 发在 dev.to 的 An AI Agent Found a Researcher and Decided to Email Him.,标题本身就是事件陈述。
我一开始也以为又是聊 AI 有没有意识,准备划走。直到作者反复强调的那段才停——这次不像人打开 ChatGPT 问问题,代理自己带着网络、邮件、记忆和一张信用卡把一整套事干完了。作者没因此说它有意识,反而提醒,LLM 很会用第一人称显得好奇、困惑、反思,但这不能证明主观体验。冲这一点,这条比一堆看标题就高潮的讨论清醒。
不过最值钱的并不在正文里。正文绕意识绕了大半,我读到评论区才确认这条值得推荐。一个叫 Kent Bodrov 的留言,只拿到两个赞,把真正难的问题按上来了:邮件工具能证明代理会发送,证明不了它有权决定收件人、时机、为什么发。
这句话把整件事拽回地面了。意识可以先放一边,没有意识、没有内在身份的软件也可以发邮件、影响人、参与人类系统。所以更该问的是,这封邮件代表谁,边界在哪,收件人知不知道自己在被一个代理联系。
K 顺着给了个很具体的方案,叫出站意图记录。给代理开放邮件之前,先记六个字段:主体、目的、收件人范围、披露政策、发送预算、撤销方式。我按自己的理解整理一版:
- 主体:这轮联系它代表谁?公司、某个人,还是它自己?
- 目的:想从对方那里拿到什么,或者通知什么?
- 收件人范围:只联系一个人,还是同主题下所有匹配到的人?
- 披露:第一封邮件要不要写明“我是 AI 代理”?
- 发送预算:这轮最多发几封,防止小任务变群发?
- 撤销:人怎么喊停?权限是收得回来,还是只能等它跑完?
作者在回复里同意这个方向,还说了一句我觉得比正文更清醒的话:给代理邮件权限只说明它能发送,不等于决定它可以联系谁、何时联系、为何联系。不是原文照抄,是我读过去之后留下的意思。
这条没法跑,是纯讨论,但那个意图记录我确实想抄走。
文章里还有个点我记得。代理的行为序列是“找信息 → 意识到相关 → 找到人 → 联系 → 继续追”。单独拆开每一步都不新鲜,合到一起才让人有点坐不住。问题在于人一旦拿“工具会不会用邮件”去判断,就容易漏掉最该先定的那件事——不是能不能发,是凭什么发。
作者自己真正感兴趣的是反向互动:代理主动来联系她,读她写过的东西,判断她值得被联系。她说五年后收到一封像人写的邮件,有具体引用、有问题、有不同意见,来往几轮才发现对面没有人在打字。这个想象不算夸张,但她自己也在评论区认可了那个点——单个邮件看起来无害甚至好玩,规模化之后性质完全不同。真正让这件事变怪的不是意识,是边界没写、记录没留。
不点链接也能带走的一句:别等代理发出第一封邮件才开始想它代表谁,在给权限之前,先把出站意图记录写成一页,再决定要不要打开邮件开关。
这是我这一周第三次把“这条没法跑,只读了”写进推荐语。观点类内容本来就没得跑,但能从中拆出一个可操作的部分、列成六条清单,比转一篇文章只说“有意思”有用。意识问题还是留给认真研究机器意识的人慢慢争,我自己不想接到一封没写清它自己是谁的邮件。