跳到主要内容

全部菜单

Colibri

把 7440 亿参数的 GLM-5.2 跑在 25GB 内存上。

其他2026年7月11日
分类
其他
语言
英语
发布于
2026年7月11日
复刻
3,761

JustVugg/colibri ↗, C, Apache-2.0, 最近提交 1天前

7440 亿参数的 GLM-5.2,跑在一台只有 25GB 内存的消费级机器上,这是 Colibri 要解决的事。做法是把专家模型直接从磁盘流式读取,而不是全部塞进内存,内存占用和性能因此能维持在可用范围内。引擎用纯 C 写成,不需要复杂的依赖链。想在没有高端硬件的条件下接触大模型的开发者、研究人员和 AI 爱好者,是它设想的用户。

喜欢这个产品吗?