top-k1 篇实战文章

同一个 prompt，同一个模型，隔半小时再跑，结果不一样。 很多人先怀疑自己 prompt 写得不稳。 不是。模型每次吐给你的不是一个字，是词表上的一整个概率分布。后面那堆参数，全在回答同一件事：这个分布里，你信哪一部分。 先讲 temperature。它被高估了。