PII1 篇实战文章

RAG 会不会把你的资料漏出去？ 简单说：会。而且不用黑进你的系统，会提问就行。 问题不在模型记不记得住，在检索这条通路本身。RAG 让回答有据可依、幻觉少了很多，这是它被广泛采用的原因。同一套机制反过来用，就是一个出口。 攻击者要的不是权限，是提问的入口。 拿到入口之后，他能从底层语料里一点点把个人可识别信息抽出来。