跳到主要内容
本周小抄:AI 挖漏洞这件事,先别急着信标题

本周小抄:AI 挖漏洞这件事,先别急着信标题

阿简
阿简

· 阅读约 4 分钟

AI 真的能自己挖漏洞了吗。

简单说,还不能。多数所谓「AI 独立发现」,是熟练的人拿着 AI 当铲子。挖到之后,叙事在公关稿里被改写了一遍。

前阵子有个写安全博客的人把这事掰开讲了一遍。他自己不用 LLM。不是不会用,是受不了模型那种自信地把错结论讲出来的样子,还有它偶尔跑出来的明显不合理的命令。

这条我信。模型不会犹豫,它错的时候和它对的时候,语气一模一样。

他也没全盘否定。他说 LLM 是强工具,只是厂商的宣传跑在了实际水平前面。举的例子挺具体:你把模型直接丢向 Linux 内核,让它自己找个 RCE,大概率挖不出来。得有个懂行的人在前面带着。

下面几条是这周挑出来的。

php2shell:同一件事,三家讲出三个版本

Calif 说这是 AI 在人类引导下发现的 PHP 漏洞。OpenAI 说智能体独立发现了关键漏洞。Wiz 的说法夹在两者之间。

点评:不用急着判断谁在撒谎。三家各自要卖什么,看稿子的落点就清楚了。

近期那些「AI 挖到的漏洞」,多半出自大公司的研究员

这些人能拿到大量 token,背后有团队,有时间,有预算。这不是贬低他们的成果。是说清楚条件。

点评:把有资源的人的产出说成「AI 自己会了」,对普通人是误导。你会以为买个订阅就能干这活。

OpenAI 说帮维护者更快修补和缓解问题

作者反问了一句,我觉得是全文最扎的:你有那么多算力,为什么不去帮旧版 PHP 把安全修复回移过去。

点评:修补是长期的、没人转发的活。宣传要的是能转发的活。这两件事之间的差距,基本就是这篇博客想说的全部。

有人把哈希和产品名并排发出来

哈希这东西原本的用法,是在漏洞公开之前证明「我早就发现了」。现在有人拿它配一句暗示,先把恐慌放出去。

Bluesky 上有人说发现了 Tailscale 的 0day,发了哈希,配文暗示存在提权问题。实际的前提是:攻击者得已经拿到那台机器的 ACL 规则,还得开着 Tailscale SSH。效果只是在那台机器上提到 root。

第二天这人用 vibe-coding 做了个站,把发现全公开了,里面不少内容并不关键。公开之前没联系过 Tailscale。

点评:这不算披露,算拉客。动机是给自己的公司打广告,顺手接审计的活。

顺带说一句,提前放未修补 0day 的概念验证视频,最近也多了起来。同一个路子。

eMudhra 的 CA 私钥设成了 4

这条不是 AI 发现的。是有人拿 Google 的 paranoid_crypto 扫密钥的时候扫出来的。

点评:我把它放进来是想说另一件事。手工加一个好工具,照样能挖到最离谱的东西。AI 不是唯一的铲子,也未必是最好的那把。

回到那个作者自己身上。他说写博客和研究对他主要是乐趣,钱是附带的结果,所以不愿意把探索和调试交出去。他理解公司要求工程师提速,但觉得这个预期本身不是好先例。个人项目该留给自己写。

这条我同意一半。

工作里该怎么用怎么用,这个没什么好装的。但他说给 AI 一份实现计划让它代写,会让人错过大量学习机会,因为计划在编码过程中会一直变。这句是对的。你事先想好的东西,写到第三个文件就发现不成立了。那个发现不成立的过程,本身就是学东西的地方。

他还说了一句,大意是:人们太沉迷这波 AI 浪潮,把亲自写代码、调试、扒压缩过的 JavaScript、翻子域名的乐趣给忘了。

这话有点老派。但我认。

所以落到一句给普通人的:以后看到「AI 发现了 XX」,先看三件事。谁在讲。他要卖什么。有没有先联系厂商。三条里两条不过关,基本可以先跳过。

最后补一条我没吃透的。那个作者说他下一篇技术 writeup 在路上。老实说,这条我不确定值不值得收,先放在这里,出来了再说。

本周就这些。上面有任何一条你试过、或者觉得我讲错了,欢迎告诉我。讲错的我补,没讲清的我改。

下周见。

阿简
阿简

每周替你把 vibe-coding 圈的大事筛成一张小抄,被讲玄的概念一句话搞懂。

查看主页 →