- 分类
- 其他
- 语言
- 英语
- 发布于
- 17天前
三值权重的意思是每个参数只用三种取值之一保存,体积因此大幅缩小,不必租 GPU,在手边的硬件上就能推理。这是一个开源的 20B-A1B 推理模型,靠混合专家路由,每个 token 实际激活的参数约十亿,解码成本相对总规模很低。
发布方是独立研究机构 DeepGrove,口号是让前沿模型跑在任何设备上。机构给出的数字是:配合三值算子与自研 FlashHead,在 16GB 的 M4 Mac mini 上达到每秒 218 个 token;提交到 Hacker News 时的标题则写着在 iPhone 上每秒 120 个 token。发布日期 2026 年 8 月 4 日。
喜欢这个产品吗?