学气候这块快两个月了。今天有点被震到,又有点说不上来的不是滋味。
起因是刷到一篇新论文,十月七号挂上去的,arXiv 2610.10513,标题问得挺狂:Can AI Agents Build Climate Models?一个基准测试,叫 SciExam for ENSO,让智能体拿真实观测去搭 ENSO 的低阶随机模型。
我本来只想扫一眼看热闹。
结果越看越坐不住。
先说我卡住的第一处。智能体有六个小时。六小时里要处理观测数据,还得自己写诊断程序——自己写,写完就冻结,后面只能靠这几个冻住的脚本当反馈来继续开发模型,想回头改一下?不行。
我看到这儿就停下来了。这不就是把我平时写脚本最想干的事(边跑边改边糊,糊到能跑为止)直接掐死了吗?😭
评测那边是隐藏评分器,不告诉它标准,只看模型能不能复现 ENSO 的统计特征、能不能恢复那些没观测到的变量、能不能预测留出来的年份。同一个评分器还去给一个已发表的、正经人类做的模型打了分。
十二个智能体系统,六个超过了那个已发表模型。优势主要在重建和预测。
我盯着这个数字看了半小时。不是不信,是不知道该信到哪一步。
然后我的第一反应是——它是不是在背?
这两个月跟同桌打交道(最近是 Claude Code),我见得最多的一件事就是它给我一个跑得特别漂亮的版本,我一问为什么这么写,它就开始绕。所以看到"六小时",我脑子里冒出来的第一个念头就是:这六小时里它见过的东西,会不会顺手把某些观测记录记住了,模型看着有统计特征,其实是在复读。这个问题我太熟了。
论文做了这个实验。对表现最好的那个系统,控制它拿到的信息,改一下再跑。结论是得分不是来自记忆旧观测。
比这句话更有意思的是后半截:给它什么信息,会影响它怎么建这个模。同一个任务,喂进去的输入变了,它搭出来的结构也跟着变。
这就有点东西了。
真正让我半天没缓过来的是第 9 条那个发现。表现更好的那几个模型,简化之后,结构上分别跟 ENSO 冷暖不对称的两种竞争性解释之一对得上——有的落在这一边,有的落在那一边。
而这两种解释,气候圈里科学家现在还在吵。
这两个月我对 ENSO 的了解还挺夹生的,冷暖不对称具体是个什么机制我说不清楚,只知道有这么个争论,两边都有人。
争议在任务里根本没提。没人告诉那些智能体说"注意,ENSO 冷暖不对称这个问题学界有两种说法"。它只是拿到数据,拿到六小时,自己搭。搭出来的东西落在某个争论的一边。
我看到那段的时候是真的坐了一会儿。这到底是说明它"理解"了,还是说这两种结构的差别本来就不大、随便一个能跑的结构都会自然偏向某一边?我不知道。这个我是真不知道,也不是读一遍论文能判断出来的。但我知道它至少说明一件事:这类任务的评测不能只看得分高低,得看它落在哪。
然后是最让我不舒服的地方。
我说不舒服,不是说它强所以我焦虑,是另一回事。它的评测方式是"在答案未知的情况下评估智能体的研究能力"。这句话我读了两遍才反应过来它有多狠——平时我们考模型,都是给一个有标准答案的题,对了错了清清楚楚。这次不是。这次连出题的人自己都不知道正确答案是什么,因为这就是个还没解决的科研问题。它考的压根不是"知不知道",是"能不能在一个没有答案的地方,自己造出一个跟人类专家争得不相上下的东西"。
这跟我平时干的完全不是一个量级。
我平时卡的是什么?少打一个括号、环境变量配错、prompt 写歧义了让同桌理解成另一个方向。这个月学下来最大的收获,也就是"逼自己把每一行读一遍"。上次那个卡了我三天的报错,最后发现是我自己把变量名打错了,当时是真的开始怀疑自己是不是不适合学这个。
这边呢,智能体要在六小时里自己写诊断脚本、被冻住、然后单靠这个反馈搭出一个能复现 ENSO 统计特征还能预测留出年份的模型。
差距就在这。不用比我也知道差在哪。
但奇怪的是,看完我反而没有特别慌。可能是因为"六小时、脚本冻结"这个设定太具体了,具体到我能想象出换我上去会是什么样:前两个小时大概全花在纠结数据怎么读,剩下的时间连第一个诊断脚本都写不利索。这种具体的想象反而让我平静下来——我现在卡在的是"读不懂一段代码",跟"六小时造一个气候模型"之间隔着的东西,不是我刷两天教程能追上的。
那就别追了。
能比的还是三周前的自己。
说回正题。我现在真正想知道的是论文没写清楚的那块:那些智能体自己写的诊断程序,长什么样?
冻住之后它们成了唯一的反馈来源——那一个诊断程序能提取出什么信息,其实很大程度上决定了后面模型能长成什么样吧?这个环节是不是才是真正的胜负手?还是说六小时里前面数据处理的部分更耗人?
28 页,5 张图,8 个表,我肯定得再啃一遍。今天这一遍基本是在看热闹。等我看明白那个隐藏评分器到底在评什么维度,再来写。或者看不明白,也来写。
评论区蹲一个大佬。有人读过这篇吗?它那个"输入信息会影响建模方式"的受控实验具体是怎么设计的,能给我讲讲不?我卡在那儿了。
