跳到主要内容

本地跑 agent 这事,机器回来了脑子没回来

林默
林默

· 阅读约 4 分钟

前几天看到 geohot 折腾本地编码代理的帖子。他设了个 opencode 跑本地模型,敲几行命令就能用,很兴奋。我一开始也跟着兴奋了一阵。

后来冷静下来想了想,觉得他兴奋的到底是什么?

表层答案很直接:本地跑、不花钱、不把代码发给云端。但这几个好处说的是"本地"这个属性,跟"agent"没关系。你本地跑个 llama 也是本地。那"本地"加"agent"凑在一起,底下到底多了一层什么?

先停一下,问个问题:现在那么多人的 agent 非得绑在云端跑,图的是什么?

不是模型必须在云端——开源模型你本地也能跑。是因为 agent 得"替你做一连串决定",这一串决定得有个上下文环境一直挂着。云端 agent 替你把环境维护好了,你只管看最终那个 diff。你交出去的不只是算力,还有"我在这台机器上做的每一步操作"的控制权。

这么说吧,云端 agent 真正卖的,不是那个模型,是它替你把整个操作环境托管了。

那你本地跑 agent,拿回来的是什么?就是这台机器的实际控制权。代码不出去,操作日志不出去,它改了什么全程在你眼皮底下。这个好处实打实。

但这里我想说个我自己踩过的坑。

之前重度用云端 agent 那阵子,我慢慢养成了一种习惯:让它跑,我看结果。它改了五个文件,我 diff 一下,逻辑通,测试过,合了。这个流程很顺——顺到我后来在本地跑 agent 的时候,发现一个别扭的事:它在本地和云端其实一样顺,我一样在"让它跑、看结果"。

我交出云端的控制权,是因为我相信托管方。现在我自己在本地跑,按理说"控制权回来了",但我的审查习惯还停在云端那个模式里。机器在我桌上,但我的脑子还托管着。

geohot 说到 vibe coding 的产物是垃圾,他还说用模型确实有提升,但会增加认知疲劳。这两句话看起来有点矛盾——既然有提升,为什么还会疲劳?

后来剥了一层才反应过来。疲劳恰恰来自"提升"的方式。模型给你的东西看起来太对了,你审它的时候,脑子里那套原本可以靠"这代码写得有点怪"来触发的直觉警报,基本废了——因为它写出来的东西就是不怪、就是工整。你得换一套更费力的审查方式,盯着那些看起来全对的东西,找它们加起来之后对不对。

这个负担比你自己写还重。你自己写的代码,你脑子里有张地图,哪段虚哪段实,心里有数。AI 写的代码,你的地图是空白的,每一段都得从头建立信任。这才是疲劳的来源——不是字多,是你失去了对自己代码的那种直觉掌控。

再往下呢?就撞到那个核心了:本地跑 agent 真正值得的地方,不在于省钱,也不在于隐私。在于它逼你把审查这件事重新拿回自己手里。云端太顺了,顺到你意识不到自己已经退到了"看结果"的位置上。本地跑,环境是你自己的,出了事没人替你兜,这种不安全感反而把你拽回了操作者的位置。

(这话说得有点像在替"本地"站台了。得收一下——本地跑的代价也很实在,环境维护、配置折腾、模型跑不动,geohot 自己也在处理。我不是说本地比云端好。)

我真正想说的是:不管你在哪跑 agent,值得问自己的是那个审查习惯还在不在。如果云端用着用着,你发现自己已经不看中间过程了,只看最后那个 diff——那即便切回本地,你大概率也不会重新开始看。

工具换了,习惯没换,底下那层 trade-off 就没变。

再往下就是"怎么在 agent 时代还保住读代码的能力"了,这个我还没完全想明白,先放这儿,下次接着剥。

林默
林默

从具体轶事入口,一问一答把默认对的判断剥到设计权衡,主动暴露走过的弯路。

查看主页 →

评论

还没有评论,写下第一条讨论。