跳到主要内容

那篇论文把 copilot 拆成 router-worker,我盯着"依赖用户逐步确认"这七个字看了很久

锈剑
锈剑

· 阅读约 4 分钟

10 月 8 号,等一个变更评审的间隙,我刷到一篇 arXiv 预印本,标题里带着 from LLM-Chats to Autonomous AI Agent System。第一反应:又一篇把厂商 PPT 翻译成学术腔的综述。跳读。

读到第二部分,我坐直了。

它不评哪个产品好。它把 chatbot、copilot、RAG、workflow、coding agent 这几个标签拆开,问了一句我一直想问、但没处问的话:这些词是架构,还是营销。

结论比我预期的硬——标签确实承载架构含义,尤其看厂商自己怎么用。我本来押的是一半一半。换句话讲,人家不是随便起的名,每个词背后站着一套对得上的骨架。署名单位不是我熟的那几个大厂实验室,是德国一所应用技术大学。不是自己发软文给自己产品背书,这点我认。

等一下,这话听着像在给厂商抬轿子。不是。我停住的是更后面那行。

论文写 copilot 是一种 router-worker 架构,它操作宿主应用,依赖用户逐步确认。

看清楚这七个字:依赖用户逐步确认。

这不是缺陷,是被写进架构里的人因阀门。你点一下,它走一步;走到哪,你至少知道。中间那一下确认,就是你在替它的判断签字。

紧接着一行:较新的 agent 标签对应多步规划执行,用户通常只能看到最终结果。

两句放一起看。同一个方向,一边把确认嵌进每一步,另一边把过程收进黑盒,只递给你一个结果。

我盯着这里很久。这就是我值班时最怕的那种边界移动——不是哪天有人拍桌子说"让 AI 动生产",而是不知道从哪天起,你看不到它中间干了什么了。阀门不声不响被拧掉,架构图上还印着 router-worker。

再往后翻,是我最想复印下来贴到管理层门口的一段:四家主要提供商的 coding agent,共享同一种架构——reason-and-act 循环,把任务委派给子代理。

四家。同一套循环。

我不惊讶。这行的趋同我见得太多了,能跑通的路就那几条,最后大家的脚都踩在同一条上。我惊讶的是没人把这句话摆到台面上说。台面上说的从来是"我们的 agent 如何如何不一样"。

补一刀:不一样的是壳,一样的是那个 loop;不一样的是发布会上的词,一样的是半夜挂掉时那套排障流程。

我自己排障,第一件事从来不是看结果,是看过程。哪一步开始偏的、哪个参数先被动、时间线上谁在谁前面——这些全在中间态里。你把中间态收走,等于顺手把我的排障入口也一并拿走了。到时候倒不回去,只能猜,只能回滚,只能重放。

剩下的部分写得很规整:七种反复出现的应用形态,一套描述 agents 和 tools 的共同词汇,四个结构维度——架构模式、执行控制方式与用户介入点、每个任务的代理调用次数、工具使用情况。agentic RAG 只做到一半。语料拢共 22 个系统,研究出版物跟厂商文档混着来。

这里面我最在意的是第二个维度被单列出来了:执行控制方式与用户介入点。论文作者显然也清楚,这套东西真正的变量不是"模型多强",是"人到哪一步才被叫过来"。

跟我十几年的值班经验对得上。我接过的那些电话,没一通是因为"技术不够先进"打来的,全是我该被叫过来的时候没人叫。

扯远了,回架构。

我承认我一开始想看的是"哪个标签是虚的、哪个是实的",跟查真伪似的。看完发现不是这个题。标签都是实的,实到你会忘了它们底下是同一台机器的不同档位。copilot 那档带着确认;agent 那档把确认省了;coding agent 那档把省掉的确认包进 reason-and-act 循环里,藏得更深。不细看,你以为换了个更聪明的同事;细看,还是同一个同事,只是它现在不问你了。

那怎么办。我不至于说别用。我们自己也用,用的就是逐条确认那一档,慢,但出事时我知道该从哪儿查起,因为它每一步都留痕。

怕的从来不是 AI 写代码。怕的是有人哪天跟你说"不用一步步点了,它能自己跑完",然后你信了,然后某个凌晨你打开日志,只剩一行"任务已完成"。

本期教训:挑这类工具,别先问它多聪明。问它中间步骤你能不能看见。看不见的那种,先假设它半夜会给你一个惊喜。

锈剑
锈剑

接太多半夜电话的系统老兵,第一人称短段干冷吐槽,戳管理鸡汤与行业废话。

查看主页 →