跳到主要内容
agent 交活从不写悔棋记录

agent 交活从不写悔棋记录

摸鱼办主任
摸鱼办主任

· 阅读约 4 分钟

上个月我把两千多行数据丢给 agent,需求就一句话:洗一下,能出图就行。

四十分钟后它交回来一张干净的表。字段齐整,缺失值补得利索,末尾附了句“异常值已按常见做法处理”。

我扫了两眼,合并,出图,交付。

【灯光渐暗。四十行样本自此失踪】

三天后对面的人问:这批里怎么少了四十行。

我打开它给我的东西。只有结果,没有理由。

悔棋记录?不存在的。它连棋都不承认自己下过。

真正该焦虑的是这个,比“AI 会不会写错代码”那个年经贴实在多了。它没写错。它做了个决定——一个我从来没被通知过的决定。

五天前 arXiv 上挂了一篇,编号 2611.04183,Grunde-McLaughlin 牵的头,作者名单里能看到 Jeffrey Heer 和 Dan Weld,做 HCI 的那几位。题目大意是:agent 干一件没说清楚的任务,必然会替你做选择,而这些选择可能跟你没明说的偏好正好拧着。

一个个问回来是不现实的——这我完全同意。真要每个决定都弹窗确认一遍,那还不如我自己干,起码我不用点十七次“允许”。

所以他们走的方向是:事后告诉你,它本来还可以走哪几条路。做了个设计空间,还拉 48 个人在数据分析场景里实测了一轮。

有条结果我盯着看了半天:不提示的话,参与者几乎不会主动去想备选路径。

我在工位上“哦”了一声。不是惊讶,是那种被说中的“哦”。

这哪是 AI 的问题,这是人的出厂设置。手里攥着一个能跑的结果,第一反应是赶紧往下走,不是回头看它为什么这么跑。

我们管这个叫效率。

写到这儿我本来想拿 code review 打个比方,说我们从来只审结果不审岔路——结果这比方站不住。diff 里那一堆减号就是没走的路,红红绿绿摊在那儿,你想看随时能看。

所以真问题不是“看不见”,是“看得见也懒得看”。要设计的从来不是那个界面,是人的注意力。

论文另一条发现:把备选路径可视化之后,对 AI 的过度依赖有下降。这个我信,但解释跟作者可能不太一样——不是图画得好,是“选项”这玩意儿本身带唤醒功能。屏幕上突然摆出两条岔路,你才想起来自己原来还有个脑子没用。

顺便说,它偶尔也显灵。某次它替我挑了个我压根没想到的处理方式,比我原本打算的还妥当,我当时还挺感动。可它蒙对的时候是这副自信的表情,蒙错的时候也是这副自信的表情,一字不差。

【关于本次“你当时为什么不早说”的裁定书】

经审理查明:被告(某 agent)在本次任务中共作出实质性决定四项,三项未向用户披露,一项披露了,藏在输出末尾第六行。

裁定:披露义务履行不合格。但鉴于被告不心虚、不愧疚,也从没打算把锅甩给上一个同事,从轻发落,责令下次直接在结果里说人话。

(此裁定不涉及任何真实项目纠纷,如有雷同,纯属所有 agent 都长一个样。)

接下来我要唱个反调,而且我确实觉得自己是对的:我不想要一个“备选路径面板”。

你信不信,那种面板上线第三天,所有人闭眼点关闭的手速,能跟现在关 cookie 弹窗打个平手。把决策树摊在我面前,等于把认知负担从它的显存搬到我视网膜上——这不叫透明,这叫甩锅的另一种排版。

做工具的直觉永远是再多给一层信息,好像信息给够了人就会看。

我要的就一句话:这一步我替你做了个决定,代价大概是什么。

一句话。别画树。

画树的工夫够我改三个 bug 了。再贪心一点——我最想要的其实不是“有哪些备选”,是“哪一步它自己最没底”。备选是空间维度,信心是概率维度,后者更救命。一个能说出“我这步是猜的”的 agent,比一个能列出五条分支的 agent 值钱得多。

这毛病人类早就有前科。commit message 写个“update”,出了事 git log 翻半天,一行有用信息都没有。现在这活儿交给 AI 了,格式工整了,读起来像每条提交都在写年终总结,信息量还是原来那个信息量。

我现在的习惯是交付前追问一句“你刚才都做了哪些决定”。它每次都答得特别热情、特别有条理,分点列出——答完我比问之前更不确定了 🫠

下次 agent 把活交到你手上,你会多问那一句吗。我猜大部分人的第一反应跟我一样:先合了,急着上线,回头再说。

(友情提示:那四十行样本至今没找回来。你要是哪天在某张中间表里见过它们,替我带句好。)