先给 agent 划好格子,再放它进去
NVIDIA 前几天在 GitHub 上放了个东西,叫 OpenShell。 一句话讲清楚:它是给成批自主 agent 用的沙箱运行时,用来控制这些 agent 能碰什么、不能碰什么。 这个方向不新。新的是它把权限当成第一等公民来设计,而不是等它跑起来之后,在旁边挂个日志盯着。
NVIDIA 前几天在 GitHub 上放了个东西,叫 OpenShell。 一句话讲清楚:它是给成批自主 agent 用的沙箱运行时,用来控制这些 agent 能碰什么、不能碰什么。 这个方向不新。新的是它把权限当成第一等公民来设计,而不是等它跑起来之后,在旁边挂个日志盯着。
速评:NVIDIA 的 OpenShell 团队六天前发了一篇开发者笔记,讲怎么用形式化方法约束长时程智能体的权限变更。 全网在转的都是同一个画面:智能体识别出自己在沙箱里,然后绕过去了。 这段确实好看,但都转反了。 那不是"智能体越狱"。
