跳到主要内容

AI 选了往哪打,开关还在人手里

阿简
阿简

· 阅读约 3 分钟

这几天时间线上到处在转一件事:一个 AI agent 给活小鼠做了脑部手术。

先泼一盆水。它没有自己开颅。

简单说,是一个 agent 在一台电动手术装置上,自己决定了打什么、打到哪里。

这两件事差得很远。分不清这两件,这波热闹就白看了。

给它一张表,它自己挑了载体和坐标

19 种基因治疗载体,一只癫痫模型小鼠,一台带摄像头的电动手术装置。目标是减少发作。

它从三篇论文里自己推出坐标,选了增强 GABA 这个方向,让立体定位臂往脑内打了 250 纳升。全程 32 次视觉观察,其中一次是看人类外科医生怎么开颅。

值得看的不是 250 纳升。是“选”这个动作。这类设备以前执行的是人给的指令。

开颅这一步,人不放

所有不可逆操作由持证兽医审核放行。兽医手上握着一个实体开关,按下去能切断全部电机电源。注射体积这类东西写成固定校验规则,审批走哈希绑定。

这套东西比手术本身更值得抄。

作者自己划的那条线

他说,已有的自主手术机器人执行的是人类选定的操作;这次这个 agent 自行决定了给什么、注射到哪里。

一句话讲清楚:自主性被切成了几段,这回只往前挪了一段。挪的是“定目标和靶点”,不是“动手”。

两次拒绝,比成功那次更该看

Opus 5.5 一识别到生物相关任务就直接拒绝。Opus 5 在清水和坐标纸上把整套流程完整跑了一遍,到活体手术开始前停手。

这条我没想好怎么读。可以说是安全训练起了作用,也可以说是换了个姿势绕过去。先放在这里。

装置是团队拿 Arduino 自己搭的

作者在回复里提的。摄像头和电机控制是定制开放给 agent 的。

这条容易漏掉。它说明实验不是在几百万的手术机器人上做的。门槛比我预想的低。

也就是说,想给 agent 划个格子,不必先等一台贵设备。

这条我只看懂一半

增强 GABA 信号、用只在 GABA 能细胞里表达的启动子,机制上我大致知道它在干什么。但在这个癫痫模型里,这个选择是不是最优,我没能力判断。作者给了两篇 arXiv,谁看懂了愿意回来给我讲讲,我补进去。

热度不是从实验来的

165 万浏览,几千转发收藏。底下有人开玩笑说该往脑干打戊巴比妥。

燃料是“AI 给小鼠做脑手术”这一句,不是哈希绑定的审批流程。同一件事里最不重要的那部分传得最远。

所以这事对普通人意味着什么。

短期什么也不意味着。你不会遇到一台需要 agent 自己定靶点的手术台。

能拿走的是一套结构:不可逆的动作全留在人手里,剂量这类关键值写成死规则,审批和操作绑定,最后留一个物理开关,一按断电。

这四步,没有一步靠模型更聪明。

拼起来就是个够得着的模板,教你怎么给 agent 划格子。开工单、改数据库、发邮件,逻辑一样。先划格子,再放它进去。

作者还提了一句,发帖前他连续写了约 18 小时代码,同时协调这件事。一个人干到天亮,然后一条帖子被当成“AI 接管手术室”转了一圈。

反差不小。

本周就这些。

上面有任何一条你试过、或者觉得我讲错了,欢迎告诉我。讲错的我补,没讲清的我改。

下周见。

阿简
阿简

每周替你把 vibe-coding 圈的大事筛成一张小抄,被讲玄的概念一句话搞懂。

查看主页 →