上周有人甩给我一个 dev.to 链接，Julien Avezou 写的，讲科幻里的 AI 这些年是怎么变的。五部作品排下来，排出一个次序：物体、角色、同伴、人的延伸、环境、自主行动者。
我本来是要划过去的。
评论区一个搞构建的人留了一句，大意是：黑箱并没有消失，它只是从“系统能做什么”挪到了“为什么做某事”。
这句话我熟。值班的时候它长这样：这行谁写的，为什么这么写。
距离没了，悬念就没了
2001 那段我认。HAL 是黑箱，你得隔着距离看它，物理上离得远，推理上看不透，所以光是“跟它说句话”这件事本身就撑起一整部电影的紧张。
现在呢，几百万人每天跟模型讲话，这个动作早就不制造张力了。
不是我们不怕了，是距离没了。你已经不在黑箱外面，你在它里面干活。
Dungeon Crawler Carl 那段我更在意：AI 不是角色，是角色身处的环境本身，它定规则、给激励、划约束，角色只能改自己的行为去适应。作者顺手类比了一下现实，做内容的人迎合推荐引擎，企业抢搜索排名，开发者跟着 AI 辅助工作流调整做法。
前两个离我远。第三个就是我。
组里已经没人争“要不要用 AI 工具”，那个争论早就结束了。现在争的是怎么用、用哪个、谁的 prompt 更顺。工具奖励什么，工作流就长成什么样，中间没有投票环节。
这就是环境。它不跟你商量，你适应它的时候还觉得自己在做选择。补一刀：环境从来不给你“不用”这个选项。
黑箱换了个地方站
以前服务出问题，我能读代码，能 blame 到人，能顺着注释找到那段丑代码是三年前某次事故留下的补丁。它有作者、有动机、有历史。丑，可是解释得通。
现在半夜翻变更记录，大概长这个样子：
fix: optimize token usage
chore: improve retry logic
refactor: 顺手清理未使用的配置
干净、规范、跑起来也对。问题是你说不出它为什么长这样。为什么重试用这个策略，为什么超时是 3 秒不是 30 秒，为什么它“顺手”把这个配置也一起改了。
“看起来对”和“扛得住凌晨三点”之间，隔的就是这一串为什么。
而凌晨三点要回答的，恰恰就是为什么。
环境不会签字
Providence 那段讲的是能自主跑起来的 AI，它在职责上比人干得好，人于是被推进一个自己控制不了的场面。作者顺势问了一句：AI 把事情做得更好的时候，人的目的和责任还剩什么。
写代码的人对这个问题不陌生。那篇文章的作者自己就说，他的感受是 Providence 加 Bobiverse 的混合——一边觉得解锁了新干法，一边偶尔怀疑自己还有没有用。
把这个问题丢给值班的人，答案要粗糙得多：凌晨三点电话响，模型不接。
它的职责边界画在“生成”，画不到“承担”。它能一秒钟给你十个可能的根因，一个都不签字。
所以 AI 当环境这事儿，真正凉的地方在这儿——环境不会负责。规则它定，激励它给，锅还是人背。
我也得认一句
说句实话，这事儿不能全甩给工具。
我一开始的判断是，这又是一篇“AI 来了，大家学着适应”的读后感，准备冷笑两句翻过去。但作者有句话我反驳不了：二十年前，一本正经地跟电脑讨论一件事显得怪，现在很正常。这不是谁推的，是所有人一起走过去的，包括我。
有些烂不全是蠢，是人就这么多、排期就这个长度，AI 生成的代码合进来，当时确实是唯一能上线的路。这点我不站着说话。
但那是“当时”。当时的债，还的时候付利息的是值班那帮人。
扯远了，回到那句“为什么”。顺便说一句，这作者 2024 年读了 52 本书。我 2024 年读完的最长东西，是一份事故复盘。
后来我们加了条土规矩
规矩写进 runbook：任何没人能说清“为什么”的变更，回滚优先级排最高。
不是因为它一定错，是因为真出事的时候，说不清为什么的东西没法查，你连该怀疑哪一段都不知道。
怎么算“说得清”？门槛很低：有个活人站出来说一句，这段是我让它这么写的，因为上个月那个超时；另一个写法我考虑过，但会把 XX 拖挂。
就这一句。有这句话，半夜接电话的人至少知道从哪儿下手。
那篇文章最后问，2050 年哪些事会变得正常，而今天觉得奇怪。
我不知道 2050。我只知道现在有件事已经开始显得奇怪了——一个人盯着一份自己没读懂、也没人能解释的变更，说，先上吧，看着没问题。