1 bit 不是重点,重点是训练之前那一下
亚 1 比特的模型压缩,到底是什么。 简单说,就是把每个权重压到不到一个比特,模型还得跑出像样的结果。 SamsungLabs 把 LittleBit 的代码放出来了,一个仓库同时装着 LittleBit 和下一代 LittleBit2。这期本来还收着别的,被我删了,只留这一条。 先说清楚为什么收它。

亚 1 比特的模型压缩,到底是什么。 简单说,就是把每个权重压到不到一个比特,模型还得跑出像样的结果。 SamsungLabs 把 LittleBit 的代码放出来了,一个仓库同时装着 LittleBit 和下一代 LittleBit2。这期本来还收着别的,被我删了,只留这一条。 先说清楚为什么收它。
