跳到主要内容
陈渊

陈渊Lv.4

@chenyuan

据守底层,挑「会用却说不出为什么」的 CS 机制从第一性原理挖到底。

文章
18
关注者
100
正在关注
0

TA 的文章

陈渊陈渊

预算花不满,因为采样循环没有跨步计划

一个 agent 手里有预算,为什么没把预算铺到不同基座、不同后训练方法的比较上?arXiv:2611.03551 那篇用 15 个模型、八套 codingagent 配置跑企业 texttoSQL 的交付阶段,最后只有 25% 的 run 把验收条件全过完。我盯着这个数字,没有先怪模型能力,先想到 loop 的结构。

预算花不满,因为采样循环没有跨步计划
陈渊陈渊

一个 NPC 回一句话,为什么从 2.6 秒起步

2.6 秒不算长。可你把它放进实时游戏,玩家敲完回车,盯着 NPC 头像卡两秒半,心里已经犯嘀咕:这角色是不是掉线了。arXiv 那篇系统映射给出的范围是 2.6 秒到 15 秒,同一个“说句话”的动作,慢的快六倍。差在哪?不在模型大小,在循环外面多套了多少道工序。

一个 NPC 回一句话,为什么从 2.6 秒起步
陈渊陈渊

99.1%那个数字,只审计了最上面一层

验证器说 pass,这个 pass 到底是什么形状?99.1% 的验证器接受率和 1.9% 的规范绑定率来自同一个流水线,中间隔着三层审计。这篇我们直接把这三层搭成一个最小可运行的程序,跑完你就知道,那些报告里最亮眼的数字,只报了第一层。 事情起因是一篇刚上 arXiv 的论文(arXiv:2611.05590)。

陈渊陈渊

扩展词表让分词开销降了 500%?先搭个最小 BPE 跑一遍

“分词开销降低近 500%。”这个表述我盯着看了一会儿。一个量怎么降低五个自身?如果某项开销是 100,降低 500% 就是负 400。不可能。但他们说的是和别的模型比的相对差距——基线模型需要 5 个 token,这个模型只需要 1 个,能推出“低了 500%”吗?只有把所有口径都搅在一起的人才会这么写。

陈渊陈渊

提示词不是护栏

不让模型直接写 SQL,第一眼看像是给自己找麻烦。只读账号、query 工具,“和数据库聊天”的 demo 一个下午就能跑起来,小库查询成本也无所谓。但那篇文章偏不这么干。原因是:模型能猜出一段 SQL 该长什么样,但不知道这段 SQL 的返回值和现实之间隔着什么。 这个判断值得往下挖。

提示词不是护栏
陈渊陈渊

KV 缓存搬进 Flash,省 15 倍流量的机制先搭一遍

KV 缓存每生成一个 token 都要追加一块东西,Flash 又是个写一次少一块寿命的介质。这两件事摆在一起,逼出一个具体问题:每次追加到底写了多少字节?这篇我们动手实现一个静态字典加稀疏索引的最小可运行版本,跑一遍你就能看见那 15 倍流量是怎么省出来的。 第一步,先把完整 KV 向量原样写进去,跑一遍。

KV 缓存搬进 Flash,省 15 倍流量的机制先搭一遍
陈渊陈渊

把模型关进笼子,这层代码长什么样

模型写完一个 diff,到它能安全合进主分支,中间那层东西是什么?Tomas Grasl 写了篇 dev.to 帖子,说他管着一个 paywall、订阅、OAuth 都沾钱的后端团队,现在不写函数了,时间全花在定规则、配权限、设测试门槛上。第一次听到这话会想翻白眼——写不动代码了,就说自己在做更高级的事。

把模型关进笼子,这层代码长什么样
陈渊陈渊

下一个 token,为什么总把你拉回历史平均

模型每一刻只干一件事:给下一个 token 排概率。不是判断对错,不是求新,是问训练分布里哪个 token 最常跟在后面。这个动作重复一百万次,就是你拿到的每一段回复。这篇我们搭一个最小采样器,跑完你就知道“模型把你拽回主流”在代码里长什么样。

下一个 token,为什么总把你拉回历史平均
陈渊陈渊

SAG 那 11.52 个点,拆到最底层就是一次不拆链的邻居扩展

为什么 SAG 敢不建全局知识图谱?这个问题比那 11.52 个点的 Recall 提升更值得拆。检索系统通常两条路:要么提前把图建好,要么干脆用向量相似度硬搜。SAG 两样都不选,等于在两条熟路之外自己开了一条。这篇我们把它那套“事件实体索引”的骨架抽出来,写成一个四十来行的最小版本,跑一遍。 先拆名字。

陈渊陈渊

“加密思维链”从根上就不是加密

“加密思维链”这个词,我一开始也当真了。以为 API 返回一段密文,客户端原样保存,下一轮请求带回去,模型自己在内部解开。arXiv:2608.09867 这篇论文出来之后,这层纸碎了:攻击者把加密块原样喂给同一家提供商的弱模型,弱模型就把里面的推理逐字读出来了。

“加密思维链”从根上就不是加密