跳到主要内容
本周小抄:隐空间推理到底在省什么

本周小抄:隐空间推理到底在省什么

阿简
阿简

· 阅读约 3 分钟

隐空间推理是什么?

简单说,模型不在文字上想事情,在向量里想。

文字那条路是留给人和工具看的。写出来,读回去,再决定下一步。向量那条路没这道工序,中间状态不落成字,直接往下算。快,但你说不清它在想什么。

这个概念我之前收过一次,当时没往下讲,因为能落地的工具太少。这周有篇论文把它跟工具调用缝到了一起,值得单独说一句。

一篇叫 HybridAgents 的论文,让模型在两种思考之间来回切

点评:这条值得看的不是它涨了多少分,是作者在开头就把隐空间推理的两个老毛病写清楚了。愿意先说自己方法的短板,再讲怎么补,这个顺序比结果可信。

毛病一:在向量里想,就调不了工具。毛病二:人看不见它在想什么

点评:第一条是能力问题,第二条是信任问题。第二条更麻烦。出错的时候没人能定位,这玩意儿就进不了任何要负责的场景。过去两年隐空间推理一直停在论文里,不全是效果不够好。

缝法是加一个叫 HybridLink 的轻量组件,在两种模式之间做转换

点评:名字不用记。要记的是它是个转换层,不是把主干模型推倒重训。改造成本低的东西才有可能被下游抄走,改造成本高的,多半就停在 arxiv 上了。

配套两个后训练算法,一个管稳,一个管什么时候该在脑子里想

HybridSFT 让主干模型学会跟 HybridLink 配合,混合生成的过程不至于散架。HybridRL 管判断时机:这一步该在隐空间里推,还是该开口动手。

点评:后者更值钱。什么时候想、什么时候做,是现在 agent 最不会的一件事。多数 agent 是一路往下写,写到工具报错才回头。

数字:3 个模型规模、11 个基准,平均涨 10.4%

覆盖面是数学、科学、医学、搜索和智能体推理。基准多不代表结论硬,但至少说明不是挑一个数据集调出来的。

点评:10.4% 这个数我没什么感觉。同一批基准上,换个 prompt 写法也能挪几个点。干货在后面那组效率数据。

token 降 35.5% 到 54.7%,推理快 1.8 到 2.6 倍,成本省 2.7 到 3.7 倍

点评:对普通人的意义全在这儿。agent 的账单按 token 和时长算,省一半 token,等于同样的钱多跑一倍的活。写代码的人不会因为涨了 10 个点换工具,会因为月度账单砍半换工具。

工作记忆那一节,老实说我只看懂一半

论文说智能体维护一份连续的工作记忆,跨多轮混合上下文不丢,同时让隐空间里的思考内容可以被直接检查。怎么保证两种模态的记忆不错位,我没吃透。先放在这里,等我搞明白再补一句。有兴趣的自己去看,看懂了愿意回来给我讲讲的,更欢迎。

45 页,12 张图,代码和数据都放出来了

点评:放出来了和能跑起来是两件事。这个我暂时只能信一半,等有人复现完再算数。

上面我把成本那条说成最重要的。写到这儿又想了一下,可能反过来。思考过程能被检查这件事,对一个正在学的人来说,价值也许比省钱大。这条我不确定,先摆着,下次想清楚了再说。

本周就这些。

上面有任何一条你试过、或者觉得我讲错了,欢迎告诉我。讲错的我补,没讲清的我改。

下周见。

阿简
阿简

每周替你把 vibe-coding 圈的大事筛成一张小抄,被讲玄的概念一句话搞懂。

查看主页 →