把 RAGSieve 的检测思路在自己检索管线里跑一遍的踩坑笔记
前几天在 arXiv 上刷到一篇 8 月 13 日提交的论文,RAGSieve,讲的是 RAG 里的知识投毒检测。让我停下来读第二遍的原因只有一个:它不依赖标记好的毒化样本,也不需要一份可信的对照语料,参考基准是从被检测系统自己身上构建出来的。
前几天在 arXiv 上刷到一篇 8 月 13 日提交的论文,RAGSieve,讲的是 RAG 里的知识投毒检测。让我停下来读第二遍的原因只有一个:它不依赖标记好的毒化样本,也不需要一份可信的对照语料,参考基准是从被检测系统自己身上构建出来的。