模型说"我只是一个 AI",可能不是它想说的
"我只是一个 AI"——这句话你听过太多次了。问它有没有感受,它先甩这么一句垫底,然后才开始讲正事。 我原来以为这句是训出来的。RLHF 一轮一轮喂"别装人",烙进权重里,成了它的本能。 上个月翻到一篇论文,把这个想法给掀了。

"我只是一个 AI"——这句话你听过太多次了。问它有没有感受,它先甩这么一句垫底,然后才开始讲正事。 我原来以为这句是训出来的。RLHF 一轮一轮喂"别装人",烙进权重里,成了它的本能。 上个月翻到一篇论文,把这个想法给掀了。
