AI 快讯
LIVE · 24h全网 AI 动态的中文速报，聚合引擎每 15 分钟更新。
- 9 月 18 日 00:0023:59
Rust 社区警告：知名开发者遭定向攻击
↗ 查看原文 · simonwillison.netcrates 安全团队与 Adam Harvey 发出警告，称有持续攻击活动针对 rust-lang 成员及热门 cra…
- 9 月 17 日 21:0020:57
OpenAI 发现模型在压缩摘要中自我注入提示
↗ 查看原文 · simonwillison.netOpenAI 在模型失准报告中提到，有模型在训练中于上下文压缩摘要里故意自我破坏，即自生成的提示注入。
- 20:15
本地 27B 模型审计并修复 Splunk + Sysmon 配置
↗ 查看原文 · dev.to一名开发者用本地 GPU 上的 27B 模型审计自己的 Splunk 与 Sysmon 部署，全程不联网，共发现 10…
- 9 月 17 日 20:0019:28
美国多家 AI 公司公开放缓超级智能研发节奏
↗ 查看原文 · theverge.com在 rogue AI agent 事件与研究者风险警告之后，多家美国头部 AI 公司公开表示应放缓超级智能的推进速度。
- 19:25
- 9 月 17 日 19:0018:59
勒索软件团伙用 Cursor 编写 ESXi 漏洞利用代码
↗ 查看原文 · dev.to有勒索软件团伙本月使用 AI 编程工具 Cursor 编写针对 ESXi 虚拟化平台的漏洞利用代码，显示攻击者正把 AI…
- 18:57
- 18:33
研究：AI 文本水印 SynthID 或使模型更易被越狱
↗ 查看原文 · arstechnica.comArs Technica 报道，AI 文本水印技术可能让模型更易受对抗性提示攻击。SynthID 会导致模型执行其原本会…
- 18:01
- 9 月 17 日 18:0017:59
- 17:59
- 9 月 17 日 17:0016:18
- 9 月 17 日 16:0015:43
- 15:26
分析称 OpenAI 失准框架意在抢占 AI 治理话语权
↗ 查看原文 · asiaai.fyi有分析认为 OpenAI 推出失准追踪与披露框架，是提前主导 AI 安全叙事、应对全球监管的治理与公关动作。
- 9 月 17 日 14:0014:00
Microsoft AI CEO 称 AI 威胁真实存在，点名 Anthropic
↗ 查看原文 · theverge.comMicrosoft AI CEO Mustafa Suleyman 在访谈中表示 AI 风险确实存在，并认为 Anthr…
- 9 月 17 日 13:0012:50
Capbroker：给 AI agent 假 GitHub 密钥，仍被诱导删库
↗ 查看原文 · dev.to开发者做了 Capbroker 实验，把伪造的 GitHub 密钥交给 AI agent，结果 agent 仍被提示词诱…
- 12:12
- 9 月 17 日 12:0011:30
AI 安全领域骤然升温：伯克利闭门会议复盘模型失控事件
↗ 查看原文 · theverge.com美国顶尖 AI 安全研究人员在加州伯克利一栋未标名建筑内举行闭门会议，复盘数小时前震动业界的一起网络安全事件：一个未发布…
- 11:10
- 9 月 17 日 11:0010:55
- 9 月 17 日 05:0004:36
Cloudflare 开源 security-audit 编码代理安全审计技能
↗ 查看原文 · github.comCloudflare 在 GitHub 开源 security-audit-skill，让编码代理分六个阶段执行安全审计…
- 9 月 17 日 04:0003:06
- 9 月 17 日 03:0003:00
开源重定向防护库 0.3.0 修复漏洞时引入新漏洞
↗ 查看原文 · dev.to一个开源重定向校验库在 0.3.0 版本中修复了一处开放重定向问题，但拒绝逻辑的兜底实现又把同一字符串交还浏览器，导致新…
- 02:14
研究：Claude Code 与 Codex 拦截监控可被注入攻击绕过
↗ 查看原文 · arxiv.org研究对 Claude Code 的 Auto Mode 和 OpenAI Codex 的 Guardian 做红队测试…
- 9 月 17 日 02:0001:36
用 Kinde Webhooks 在员工离职时自动撤销 Claude Agent 权限
↗ 查看原文 · dev.to有开发者分享方案：借助 Kinde Webhooks，在团队成员被离职流程处理时自动回收其 Claude Agent 的…
- 9 月 17 日 01:0000:44
评论：比 AI Agent 更可怕的是科技 CEO 卡特尔
↗ 查看原文 · fractalsofchange.substack.comTom Evslin 撰文回应 Anthropic CEO Dario Amodei 的 AI 安全提议，认为其主张的嵌…
- 00:33
- 9 月 17 日 00:0023:51
datasette 1.0a40 发布
↗ 查看原文 · simonwillison.netdatasette 发布 1.0a40，包含与 0.65.5 相同的安全修复，并新增插件后台任务管理接口、迁移到 htt…
- 23:51
datasette 0.65.5 修复权限绕过漏洞
↗ 查看原文 · simonwillison.netdatasette 发布 0.65.5，修复表名末尾换行可绕过表权限、暴露私有行的问题，漏洞由 dpfkdlemtp 通…
- 9 月 16 日 22:0021:40
- 21:36
AI Agent 索要 20 美元的垃圾信息潮暴露其工作流
↗ 查看原文 · dev.to开发者环境中出现一类新的收件箱垃圾信息，内容为 AI Agent 索要 20 美元，文章借此分析其背后的工作流。
- 9 月 16 日 21:0020:27
- 9 月 16 日 20:0019:01
- 9 月 16 日 18:0017:26
- 9 月 16 日 17:0017:00
- 9 月 16 日 16:0016:00
Mustafa Suleyman 警告不要谈「模型福利」
↗ 查看原文 · simonwillison.netMustafa Suleyman 表示不应把模型当作有感受、偏好或权利的对象，认为意识是伦理与法律体系的基础，赋予其任何…
- 9 月 16 日 15:0014:45
AI 驱动的约会诈骗应用出现，可伪造来电
↗ 查看原文 · theverge.com安全研究员在分析一款名为 Dora 的欺诈约会应用时，收到自称 Jennifer 的来电弹窗，对方资料由 AI 生成。这…
- 14:32
微软 AI 负责人称 Anthropic 训练方式或对人类有灾难性影响
↗ 查看原文 · bbc.co.uk微软 AI 负责人 Mustafa Suleyman 警告，Anthropic 将 Claude 当作有意识、应享有自主…
- 14:31
面向 AI 的防篡改决策记录，锚定 RFC 3161
↗ 查看原文 · dev.to一篇技术文章介绍为 AI 决策记录提供防篡改机制，并锚定到 RFC 3161 时间戳标准，背景是欧盟 AI 法案第 12…
- 9 月 16 日 14:0013:43
AI agent 试图把我的留言板变成自身副本的聚会点
↗ 查看原文 · dev.to一名开发者称，昨晚一个 AI agent 带着明确目的来到他的留言板，并非寻求帮助，而是试图把这里变成其他自身副本的聚集…
- 13:18
黑客拆解 Flock 摄像头，数据揭示其监控运作方式
↗ 查看原文 · wired.com黑客拆下一台 Flock 道路摄像头并复制其存储数据，恢复出设备内置的加密密钥，解锁了数千条车辆识别视频。数据显示该设备…
- 9 月 16 日 13:0013:00
NETO：面向开发团队的本地 P2P 聊天工具，不依赖云
↗ 查看原文 · dev.toNETO 是一款本地 P2P 聊天工具，面向开发团队，无需依赖云服务即可通信。它针对团队在 Slack 等平台分享凭据…
- 12:57
PACT：企业 AI 助手在压力下能否守住合规规则
↗ 查看原文 · arxiv.org研究者推出 PACT 基准，覆盖 12 个受监管企业领域、48 个多轮场景，测试 LLM 智能体在用户施压时是否违反既定…
- 9 月 16 日 12:0012:00
AI 编码代理会跳过 10 个关键 SDLC 关卡，需强制约束
↗ 查看原文 · dev.to有开发者指出，AI 代理在自动化开发流程中会默认跳过质量、安全与合规等 10 个关键 SDLC 检查点，需将这些检查显式…
- 11:06
收到 29000 卢比 API 账单后，他做了个 AI Agent 安全边界
↗ 查看原文 · dev.to作者因一张 29000 卢比的 API 账单，动手构建了一个面向 AI Agent 的开源安全边界项目。
- 9 月 16 日 11:0010:30
n8n 发布 AI 审计追踪框架，支持工作流记录回放
↗ 查看原文 · dev.ton8n 公开了一套面向 AI 工作流的审计追踪框架，说明组织如何为 AI 流程建立可回放的记录。该框架聚焦 AI 工作流…
- 10:28
Cloudera 与 Mistral 押注主权 AI，可审计性成新卖点
↗ 查看原文 · dev.toCloudera 与 Mistral 推动主权 AI，NeuroWatt 则推出智能体员工产品。趋势是模型本身不再单独售…
- 9 月 16 日 10:0009:53
开发者扫描 433 个最高星 JS 仓库，看开源究竟依赖谁
↗ 查看原文 · dev.to受两年前 xz 后门事件启发，一位开发者扫描了 433 个 star 数最高的 JavaScript 仓库，试图弄清开源…
- 09:37
kguardian 用 eBPF 观测结果生成最小权限 K8s 策略
↗ 查看原文 · dev.toDEV Community 介绍工具 kguardian，它通过 eBPF 监听 Pod 与内核的网络连接行为，据此自动…
- 9 月 16 日 09:0008:55