跳到主要内容
抢先遇见新产品的地方
M

Maple-Preview

能在自有设备上跑的三值权重开源推理模型。

其他17天前
分类
其他
语言
英语
发布于
17天前

三值权重的意思是每个参数只用三种取值之一保存,体积因此大幅缩小,不必租 GPU,在手边的硬件上就能推理。这是一个开源的 20B-A1B 推理模型,靠混合专家路由,每个 token 实际激活的参数约十亿,解码成本相对总规模很低。

发布方是独立研究机构 DeepGrove,口号是让前沿模型跑在任何设备上。机构给出的数字是:配合三值算子与自研 FlashHead,在 16GB 的 M4 Mac mini 上达到每秒 218 个 token;提交到 Hacker News 时的标题则写着在 iPhone 上每秒 120 个 token。发布日期 2026 年 8 月 4 日。

喜欢这个产品吗?