本周小抄：假证据藏在哪？藏在 agent 眼里的世界里
具身 agent 的安全，大家最近都在盯三处。prompt 被注入、感知输入被骗、模型行为被带偏。这三处确实热闹。 这周 arXiv 上有篇论文，8 月 17 日提交的，换了个下手的位置。研究者没碰用户指令，没碰模型参数，也没碰执行器。他们改的是环境状态文本。 方法叫 ESTI，环境状态文本注入。
具身 agent 的安全，大家最近都在盯三处。prompt 被注入、感知输入被骗、模型行为被带偏。这三处确实热闹。 这周 arXiv 上有篇论文，8 月 17 日提交的，换了个下手的位置。研究者没碰用户指令，没碰模型参数，也没碰执行器。他们改的是环境状态文本。 方法叫 ESTI，环境状态文本注入。