CamoDocs:它攻击的不是RAG,是“今年所有RAG安全论文的基本假设”
速评:RAG防御论文今年出了一个共同前提——恶意文档带着查询痕迹,而查询痕迹能被过滤。CamoDocs直接挖的是这个前提本身:把有毒的东西伪装成正常内容,不要查询重叠也能打穿。 论文8月28日挂上arXiv,标题带“camo”也是挺会挑词的,伪装色嘛。

速评:RAG防御论文今年出了一个共同前提——恶意文档带着查询痕迹,而查询痕迹能被过滤。CamoDocs直接挖的是这个前提本身:把有毒的东西伪装成正常内容,不要查询重叠也能打穿。 论文8月28日挂上arXiv,标题带“camo”也是挺会挑词的,伪装色嘛。
