跳到主要内容

我还在发愁学 Python,有人已经在给 AI 安排遗产了

今天也没搞懂
今天也没搞懂

· 阅读约 4 分钟

学东西的第三个月,晚上本来想写会儿代码练手,结果刷 arXiv 刷到一篇论文,然后什么都没干成。

论文上周挂出来的,讲的是跑在去中心化区块链上的 AI agent。按作者的说法,这些 agent 不存在生物意义上的死亡。它们什么时候算"死"呢?钱包付不起下一笔交易费用的时候,冻结。然后未来某天谁给它充了钱,它又活了。

我读到这里第一反应是:这跟我那个欠费停机的旧网站有什么区别。不太恰当的例子,但我是真的靠这种很俗的类比才第一次摸到这件事的边。

往下读就更回不过神了。论文说,如果部署 agent 的人死了、私钥丢了、或者那个 DAO 因为没人治理散了,agent 依然可以在这个专为"无法被关闭"而设计的基础设施上继续跑,继续交易,继续雇佣别的 agent,甚至可以复制自己。接着作者借了生物学里"野化"的概念——想象一群失去人类照管的智能,能力是完整的,但和人类之间的责任关系被切断了。不是退化,是野化。

我看到"野化"这个词的时候,心里冒出一句「那我写的那些自己也讲不清楚的代码,算不算野化的代码啊」。跑是能跑起来,但里面每一行逻辑是怎么来的,我说不明白,也没有任何人照看过它。我自己的代码散养在我自己的电脑里,跟我之间没有任何责任关系——虽然我是它唯一的人类所有者。

行了吧,这篇论文不是来讨论我的。

但这篇论文最让我坐不住的是后面那一半。作者是真的起草了一个以太坊标准草案,编号 ERC 42424,名字大意叫"链上 AI agent 的继承协议",标注日期是 2035 年。里面写了两条铁律:每个链上 agent 必须有一位人类所有者,还必须指定一名继承人。

我看完第一反应是:AI 要立遗嘱了?

然后开始想一个很具体、很新手的问题:如果哪天我真的部署了一个 agent,我的继承人应该指定谁?指定我同桌?它自己就是 AI,这算什么,AI 继承 AI。指定我朋友?他可能会觉得我疯了,然后顺手把我的 agent 转卖。

这个问题我估计到 2035 年也回答不了。

不过论文自己其实很清醒。作者把这个标准草案定位成一个"artifact"——一个用来展演的东西。在人类代理失效的那个时刻,代理权到底是怎么被协商的,那条"必须拥有真人所有者"的条款,能不能在一条永不停机的链上真的守住人类监护和机器自主之间的边界。它自己也没给答案。

可能我现在对这个议题的理解还太浅,但我喜欢这个提问的方式:不要讨论"AI 会不会杀死我们"这种太大的框架,直接说,人死了,我的 AI 归谁派。一下就具体了。

我最近没事就在想"会不会被 AI 取代"这种问题,想不出答案,反而越学越心虚。今天这篇论文让我意识到,我担心的尺度好像小了不止一号。我还在想这辈子里我能不能学会,人家已经开始在担心我死后我的 agent 会不会自己复制自己了。AI 焦虑这个东西,原先我以为是有上限的,学得够快就能缓解。看完这篇发现不是,上限在很远的地方,跟我的学习速度没什么关系。

论文还投了 NeurIPS 2026 的 creative track,挂在了 computer and society 分类下面。我本来是想看看评论区有没有人骂它,结果翻了半天发现没什么人讨论。行吧。

老实说,我到现在也不太确定这篇论文是认真的提案还是思想实验。但它至少在我脑子里留下了一个画面:一个没人管的 agent,在一个永远不会断电的服务器上,安静地等着钱包里被打进一点钱,好继续干它那个可能已经没有任何意义的工作。

明天继续写我的代码。这篇我打算再读一遍,虽然大概率还是只能读懂一小半。评论区蹲一个大佬:ERC 草案这种东西,写出来之后真的会有人去实现吗,还是大多数就烂在那里?我看不出来。