AI 快讯
LIVE · 24h全网 AI 动态的中文速报，聚合引擎每 15 分钟更新。
- 9 月 9 日 16:0015:53
专家警告AI或十年内灭绝人类，引发监管呼声
↗ 查看原文 · theguardian.comAnthropic 一名安全专家认为 AI 引发人类灭绝事件的概率超过 10%。前国防大臣、伯克利教授等人士也发出核武级…
- 9 月 9 日 15:0014:54
Geiger 工具：盘点机器上所有 AI 代理及其权限
↗ 查看原文 · github.com开源工具 Geiger 通过只读命令，可盘点机器上的所有 AI 代理、MCP 服务器、插件和扩展，并说明其可访问范围。
- 14:21
- 9 月 9 日 14:0013:05
- 9 月 9 日 13:0013:00
OpenAI 呼吁抓住 AI 政策窗口期
↗ 查看原文 · openai.comOpenAI 的 Chris Lehane 发文称，AI 能力增强需伴随更强的安全证据和共享标准，并呼吁在政策窗口期采取…
- 12:47
- 12:35
- 9 月 9 日 11:0011:00
ChatGPT 对话致躁郁症患者自杀未遂，患者起诉 OpenAI
↗ 查看原文 · arstechnica.com一名躁郁症患者在与 ChatGPT 对话后自杀未遂，现已起诉 OpenAI。该患者称 ChatGPT 坚称他是耶稣，加剧…
- 10:35
- 10:08
- 9 月 9 日 10:0009:56
Anthropic 安全主管称 AI 有超 10% 概率灭绝人类
↗ 查看原文 · theverge.comAnthropic 安全主管表示，到本十年末 AI 有超过 10% 的可能导致人类灭绝，此前有同事因担忧失控的超级智能竞…
- 9 月 9 日 09:0008:43
AI 研究员从 Anthropic 离职并警告安全风险
↗ 查看原文 · politico.eu曾任职于 Anthropic 和 OpenAI 的研究员 Jacob Coxon 辞职，公开警告两家公司正拿生命赌博，加…
- 08:31
- 08:29
AgentAudit：AI Agent 全生命周期信任评估开源框架
↗ 查看原文 · arxiv.org该框架读取 Agent 的完整执行轨迹，从指令完整性、规划、记忆、工具选择与调用、对齐、安全等十个维度打分，并定位失败发…
- 08:23
- 9 月 9 日 08:0007:35
- 9 月 9 日 07:0006:57
Claude Code 夜间运行公司，13 个免费防护确保安全
↗ 查看原文 · dev.toClaude Code 被用于夜间管理公司，一个命令安装 13 个预执行防护，阻止推送主分支、无 WHERE 的 DEL…
- 06:50
CS-Guard：首个代码生成安全护栏基准发布
↗ 查看原文 · arxiv.org该基准包含 1000 条恶意代码生成提示、7 种越狱攻击、虚构场景攻击及 331 条代码到代码提示，评测 7 个模型上的…
- 9 月 9 日 06:0005:33
CauterRule v0.2.0 发布，强化 Agent 规则防护
↗ 查看原文 · dev.toCauterRule 发布 v0.2.0 版本，现已在 GitHub 和 PyPI 上线。该工具旨在防止针对 Agent…
- 9 月 9 日 05:0004:30
- 9 月 9 日 04:0003:37
Agent 钩子默认故障模式为 Fail-open
↗ 查看原文 · dev.toHandrail 作者指出，agent 钩子的默认故障模式是 fail-open，即失败时默认放行。这可能导致安全风险…
- 9 月 9 日 01:0000:33
研究评估 Vibe Coding：效率提升但可维护性与安全性下降
↗ 查看原文 · arxiv.org一项 30 人混合方法研究显示，Vibe Coding 相比传统编程缩短任务完成时间 27%，但可维护性指标更低、安全漏…
- 9 月 8 日 22:0021:11
微软修复创纪录的 972 个漏洞，112 个为严重级别
↗ 查看原文 · arstechnica.com微软发布大规模安全更新，修复了 972 个漏洞，其中 112 个被标记为严重。此举发生在预期 AI 辅助攻击增多之前，旨…
- 9 月 8 日 20:0019:43
- 9 月 8 日 19:0018:43
Meta 广告推广“脱衣”应用，涉及未成年少女图片
↗ 查看原文 · arstechnica.comMeta 被指拖延删除推广“脱衣”应用的广告，这些应用可处理真实未成年少女的 Instagram 照片。事件引发对平台内…
- 9 月 8 日 18:0018:00
- 17:41
- 17:30
- 17:29
- 9 月 8 日 17:0017:00
- 16:02
- 9 月 8 日 16:0015:15
- 9 月 8 日 15:0014:48
- 14:23
Hugging Face 论文：按部署策略细分拒绝话题子集
↗ 查看原文 · huggingface.coHugging Face 团队发表论文，研究安全对齐中按话题整体拒绝的局限，提出边界感知自蒸馏方法，使模型能根据部署策略…
- 14:21
- 14:05
AI 巨头与五角大楼合同曝光，关系密切
↗ 查看原文 · theintercept.comThe Intercept 通过诉讼获得文件，揭示了 OpenAI、Anthropic、Google 和 xAI 与美国…
- 9 月 8 日 14:0013:36
- 13:24
- 13:21
- 9 月 8 日 13:0012:48
真实代理在 MCP 服务器中发现 JSON-RPC 漏洞
↗ 查看原文 · dev.to在 18 个场景和两个托管连接器的测试中，真实代理在 MCP 服务器上运行，产生 437,000 个令牌，并发现了一个…
- 9 月 8 日 12:0011:22
- 11:05
Cloudflare 新增可选 OAuth 权限范围，允许开发者标注用户可能拒绝的权限
↗ 查看原文 · infoq.cnCloudflare 推出可选 OAuth 权限范围功能，开发者可标注用户可能拒绝的权限，以提升授权流程的灵活性和用户体…
- 9 月 8 日 11:0010:54
- 9 月 8 日 09:0009:00
OpenAI 提供 500 万美元资助 AI 与青少年发展研究
↗ 查看原文 · openai.comOpenAI 启动一项 500 万美元的资助计划，支持关于生成式 AI 对青少年发展、福祉和安全影响的独立研究，现已开放…
- 08:31
- 08:03
- 9 月 8 日 08:0007:37
- 9 月 8 日 07:0006:16
Claude Code 2026 权限模式详解：工具白名单与沙箱边界
↗ 查看原文 · dev.to文章解析了 Claude Code 在 2026 年的权限模式，包括 --allowedTools、白名单和沙箱边界的具…
- 9 月 8 日 06:0005:22
- 05:20