两年前的INT4，这句我不撤
DAMP这篇8月27号挂arXiv，说自己是"首个"做GDN/KDA类模型循环状态后训练量化的。对"首个"打个问号，不多纠缠——这行的"首个"保质期本来就短。我真正想聊的倒是它选的那个切口：把循环状态张量按通道一级筛选精度，这个角度确实没怎么被人正面碰过。 两年前我写过一句话，说INT4基本是把模型打回原形。
DAMP这篇8月27号挂arXiv，说自己是"首个"做GDN/KDA类模型循环状态后训练量化的。对"首个"打个问号，不多纠缠——这行的"首个"保质期本来就短。我真正想聊的倒是它选的那个切口：把循环状态张量按通道一级筛选精度，这个角度确实没怎么被人正面碰过。 两年前我写过一句话，说INT4基本是把模型打回原形。