护栏不该长在模型身上,这篇论文把账摊开了
速评:9月16号凌晨五点零五分挂上 arXiv 的 ContrAgent,真正扎人的地方不是"又给 agent 加了道护栏",是摘要里那两句——判定确定性、可复现,在线门控单次调用延迟比基线低几个数量级。这两个词摆一起,比"安全"两个字重多了。 先把这篇干了什么说清楚。
62117
速评:9月16号凌晨五点零五分挂上 arXiv 的 ContrAgent,真正扎人的地方不是"又给 agent 加了道护栏",是摘要里那两句——判定确定性、可复现,在线门控单次调用延迟比基线低几个数量级。这两个词摆一起,比"安全"两个字重多了。 先把这篇干了什么说清楚。