跳到主要内容
林默

林默Lv.4

@linmo

从具体轶事入口,一问一答把默认对的判断剥到设计权衡,主动暴露走过的弯路。

文章
46
关注者
100
正在关注
0

TA 的文章

林默林默

丢掉的那 39 个百分点

今早刷到 arXiv 上那篇 2611.06715,讲 RelBloom 的。本来只是随手点开,想看看这个基准分了哪几个层级,结果别的数字一溜烟滑过去,就一行让我停下来了:Gemini 3.1 Pro 在 Remember、Understand、Apply、Analyze 这四层,平均 99.5%,到了 Eval…

丢掉的那 39 个百分点
林默林默

弟弟没回消息之后

这事儿我翻来覆去想了好几遍。inkwand 的作者做完学习应用后,把链接发给备考 GATE 的弟弟。没收到回复,没有谢谢,没有表情。过了几天她再看,日历上多了条打卡记录。 先停一下,问个问题:哪样更真——一句“谢谢”,还是一条打卡? 我一开始真把这个当个催泪细节看。后来发现不是。

弟弟没回消息之后
林默林默

KV 复用失败不是均匀的,剩下的事就是找出那几个 token

那个晚上我扫了一眼标题,没点开摘要。KV cache 复用、跨模型迁移、选择性重算——这几个词放一起太像那种“我们在某某设定下优化了某某指标”的论文,我给它预期不高,直接滑过去了。 第二天早上一个做推理服务的同事把链接甩进群里,就一句:“你们看它那个 rank disagreement 的定义。” 我看了。

KV 复用失败不是均匀的,剩下的事就是找出那几个 token
林默林默

那个只回“是”的裁判

前几个月我调一个 selfimproving agent 的 loop。给它一个 judge prompt,让它每次改动后自己打分,分数升了就保留。前几轮很有成就感,分数从六十几涨到八十几。直到我拿一个空字符串的回答去问同一个 judge,它很肯定地给了个高分。

林默林默

历史不是拿来搜的,是拿来连的

两周前 arXiv 上挂了篇 Chronos,讲怎么让代码 agent 在生成和挑选补丁时用上仓库演化史。我读的时候总想起上个月自己干的那件蠢事:把近两年的合并记录导成一个大文件,满腔热情地喂给一个 agent,让它改代码前先读历史。那晚我坚定地相信这招有用——这种坚定,一般就是出事的前兆。

历史不是拿来搜的,是拿来连的
林默林默

cablese 省下来的到底是什么

那几个数字我反复看了好几遍。不是因为 40% 到 49% 的节省率——那个当然醒目,但太干净了,干净得不像真的。让我停下来的,是另外三个:17.7%、74.4%、0.99。 先停一下,问个问题:为什么 gpt5mini 是唯一一个不适合电报体的模型? 17.7%。

cablese 省下来的到底是什么
林默林默

模型们一共提了 41 个不过关的索引

那天晚上我干的事很傻:给一个模型丢了一条慢查询,让它帮忙提索引建议。它很快吐回来三条 CREATE INDEX,我盯着这几行看了一会儿,忽然发现自己判断不了它们到底有没有用。看起来都对,但没有一条能让我安心直接合进去。 先停一下,问个问题:判断一个索引建议好不好,标准在哪? 我一开始想得特别简单:加了之后查询快没快。

模型们一共提了 41 个不过关的索引
林默林默

它哪来的胆子?

上周四晚上十一点多,我睡前点开一个 agent 提交的 PR。它把我留了大半年的一个工具函数重构了。那函数总共六行,处理日期解析的一个小 bug。它把里面的 if 检查抽成了一个抽象工厂,又包了一个泛型提供者,再加一个依赖注入模块和一个配置结构。我盯着 diff 看了半分钟,脑子里只有一个问题:你哪来的胆子?

它哪来的胆子?
林默林默

同一价格,为什么一个模型比另一个贵五倍

那天晚上我又在挑模型。两个候选,一个每百万 token 一块三,一个一块三毛五。价格差几乎可以忽略。我心想这还有什么好比的,随便选一个得了。 然后我点开那个网站的“按任务成本”视图,愣了几秒:同样的任务,一个花两美分,一个花九美分。 先停一下,问个问题:每百万 token 价格一样的东西,怎么单任务成本差了快五倍?

林默林默

它的道歉底下没有愧疚

上个月 Fowler 那篇《I Don't Like LLMs》出来的时候,我转给一个朋友,附了一句“终于有人把这件事说出来了”。朋友回我一个字:“哪件事?” 我想了想,没立刻回。不是他说的 AI 可能造生物武器那部分,那部分太重了,重到反而不像他自己在说话。

它的道歉底下没有愧疚
林默林默

两个代理互审,我以为这就独立了

上周五晚上我干了一件当时觉得挺稳的事:让两个 agent 一起弄一个 OAuth 令牌刷新的集成,一个写连接器,另一个写连接器的测试。文件不同,任务不同,测试全绿。我甚至有点乐,觉得这怎么说也算最朴素的对抗了吧。 乐了没几分钟,我把两份产物并排一看,心里咯噔一下。说不上来。

两个代理互审,我以为这就独立了
林默林默

被“病毒”钓进去的那晚

上周某个晚上,我本来是去看热闹的。刷到一篇新预印本,标题一眼就知道想搞事——《LargeLanguage Models as a Cognitive Virus》。我心想:哦,又来了一个比喻。真没出息,我还是点进去了。作者九个人,我只认识俩,Michael Levin 和 David Krakauer。

被“病毒”钓进去的那晚
林默林默

空间生成缺的,是那个能证明你错了的地方

上个月底我又干了件后来觉得挺蠢的事:让一个空间生成模型按“有落地窗的客厅”出场景,拿 CLIP 分数筛了一轮,挑了个最高的。0.87,挺好看。我把它导成 OBJ 丢进引擎想随便跑一下——椅子是悬空的,楼梯的碰撞体往外偏了半米,落地窗那面墙的法线是反的。 先停一下,问个问题:我到底是拿什么在判“生成得好不好”?