阿简Lv.5

最近有个叫 KillSwitch 的东西在传。简单说，它是一门故意设计成让大模型和编码代理读不懂的编程语言。上周 Dominik Picheta 发的。 这期就讲它。后面跟几条短的。 怪在哪 语言本身没多少东西。栈式解释，函数、变量、if，就这些。 难的地方全在规范里。主规则是数标识符的字符数。

GEO 到底是什么？ 简单说，就是让你的页面被大模型在回答里引用。过去十几年大家在讨好搜索引擎，现在多了一个要讨好的对象。 这个词这两个月被讲得很玄。十月初有一份实验报告出来，玄的部分基本可以删掉。 这期只讲这一件事，其余几条留到下周。

形式化验证，是不是只有那几家安全团队才玩得起？ 简单说，它就是让机器证明一段程序在所有输入下都不会出某类错。模糊测试是抽样跑一遍。形式化验证是对输入空间里每一点都给理由。 上周四 Anthropic 发了一篇。这期收的几条都围着它。

隐空间推理是什么？ 简单说，模型不在文字上想事情，在向量里想。 文字那条路是留给人和工具看的。写出来，读回去，再决定下一步。向量那条路没这道工序，中间状态不落成字，直接往下算。快，但你说不清它在想什么。 这个概念我之前收过一次，当时没往下讲，因为能落地的工具太少。这周有篇论文把它跟工具调用缝到了一起，值得单独说一句。

你看到的 WhatsApp 帮助页面，和 AI 客服读到的是同一份吗？ 这周给出的答案是不一定。 简单说，Redact 的人翻出一批只给机器看、不给人看的隐藏指令，就写在 WhatsApp 帮助页的源码里。10 月 8 号先在一页上撞见，之后把帮助中心链出去的 545 个页面全读了一遍，全存了下来。

开发者三角是什么？ 简单说，把初学者该练的东西拆成三条边：算法、AI 使用、真把东西做出来。 三周前 dev.to 上有一篇写给初学者的文章，作者 James Anderson，用这个三角去拆三种互相打架的建议。刷题、转向 AI、只做项目，他说这三条都只对一半。 这个起手我认。

最近老有人在转 ERSC 那篇讲随机 API 的文章。我问一句：随机数为什么会有坑？ 简单说，坑不在取模这个运算，在只给你一个 randomu64、把后面所有处理都丢给调用者的接口。 文章我看了两遍。第一遍觉得是常识，写代码的都知道取模不均匀。第二遍才看出来作者骂的不是写错代码的人。 例子很短。

一篇讲软件工程的论文，标题里为什么敢直接放 indispensable？ arXiv 2610.10226，作者 Alfonso Fuggetta。10 月 7 号挂的 v1，11 号更新了 v2。六页。已经被 Communications of the ACM 收了。

基础还要不要学，这周又被人拿出来吵了一遍。 起点是 dev.to 上一张帖子，作者 Fayaz，10 月 1 日发的。标题调侃味很足，大意是：计算器连加减乘除都替你算了，我们还需要学算术吗。 他的结论我认。但他的打法有问题——抡起来打人的那根棍子，握反了。 他先顺着对方的话往下推。

NVIDIA 前几天在 GitHub 上放了个东西，叫 OpenShell。 一句话讲清楚：它是给成批自主 agent 用的沙箱运行时，用来控制这些 agent 能碰什么、不能碰什么。 这个方向不新。新的是它把权限当成第一等公民来设计，而不是等它跑起来之后，在旁边挂个日志盯着。

一次 rollout 里所有 token 共用一个 advantage，问题在哪？ 代码生成上最明显。一段代码几十上百个 token，编译过不过是个 0/1。这个结果被打包成整段奖励，再平均撒回每个 token。变量名写错了，和 import 顺序没问题，拿到同一个分数。

多模态模型到底会不会照着图写代码？ 简单说，就是给它一张图表截图，让它输出一段能把这张图重新画出来的代码。 这两件事以前一直是分开考的。看图一张卷，写代码一张卷，各自分数都挺体面。10 月 7 日挂到 arXiv 上的那篇 From Pixel to Coding，把两张卷子订成了一张。合起来考，成绩立刻不好看。

文档结构能不能帮上密集检索？ 简单说，能。但增益小到你在自己项目里大概测不出来。 10 月初 arXiv 上挂了一篇论文专门测这个。标题很长，大意是《文档结构是否有助密集检索？跨两个语料库的四种机制的安慰剂对照消融》。长得像不想让人读。 真正值得抄的不是结论，是它做实验的方式。 RAG 里处理文档结构的手段就那么几种。

最近被问得最多的一句是，AI 看图写页面，现在到底行不行。 凭感觉答不了。10 月 7 日 arXiv 上挂了一篇 TaoD2CBench，专治这个问题。它干的事，是给“从设计稿生成 UI 代码”造一把尺子。 简单说，D2C 就是设计稿到代码。这一步的门槛，从来不在画得像。 这期只收这一条。

十月初 arXiv 上有一篇讲全双工语音智能体的文章，标题末尾挂着 RSI 三个字母。 这三个字母现在很容易让人多想。先放一边。 这篇里真正值得看的是另一个词，harness。 一句话讲清楚 harness 它就是夹在“能听会说的模型”和“真能干活的模型”中间的那层调度。 论文描述的格局不新鲜。

LoRA 该往哪几层插？ 听起来像调参细节。其实每个做微调的人都绕不开它，只是没人把它当回事。 这个月 8 号 arXiv 上挂了一篇，编号 2610.11620，冲的就是这个问题。 这期只有这一条。一条讲透，胜过八条念标题。

亚 1 比特的模型压缩，到底是什么。 简单说，就是把每个权重压到不到一个比特，模型还得跑出像样的结果。 SamsungLabs 把 LittleBit 的代码放出来了，一个仓库同时装着 LittleBit 和下一代 LittleBit2。这期本来还收着别的，被我删了，只留这一条。 先说清楚为什么收它。

10 月 8 号挂上 arXiv 的一篇论文，编号 2610.11727，做的是代码检索器的微调。 数据剪枝方面的论文，我一般直接跳过。一年几十篇，标题都长得差不多。这次让我停下来的是摘要里那个数：只用 5% 的训练数据，效果和全量微调持平，有些地方还更好。 简单说，就是这么一件事。

「接了 RAG，记忆泄露的风险就下来了。」 这句话我今年看到过不止一次，说的人都挺笃定。十月初挂出来的一篇论文，正好把这句话背后的假设拆开看了看。 论文叫《Is Memorization ContextSensitive?

什么叫可验证的检索？ 简单说，它给你一个答案，还能把答案是从哪一条、哪一行来的，一路指给你看。你看得见，就查得动。 上周五挂出来一篇论文，讲的就是这件事。arXiv:2610.13695，7 页。这周二又更了一版。 论文开门见山：医疗、法律这类场景的自动化，必须透明、可验证。然后一句话把大模型挡在门外。