80B 模型、4.3GB 内存——Swiftlet 把存储当内存用
看到 Swiftlet 的 README 之前,我对「本地跑大模型」的印象还停在内存军备竞赛上。然后它甩出这么一行:Qwen3Next80BA3B,42GB 磁盘,4.3GB 峰值内存,M5 上每秒 4.5 到 5 个 token。 我下意识以为这项目把磁盘和内存两栏抄串行了。结果并没有。

看到 Swiftlet 的 README 之前,我对「本地跑大模型」的印象还停在内存军备竞赛上。然后它甩出这么一行:Qwen3Next80BA3B,42GB 磁盘,4.3GB 峰值内存,M5 上每秒 4.5 到 5 个 token。 我下意识以为这项目把磁盘和内存两栏抄串行了。结果并没有。
