Colibri

Colibri是一个轻量级引擎，旨在在仅有25GB RAM的消费级机器上运行GLM-5.2模型，该模型拥有7440亿个参数。这个创新工具解决了在没有复杂依赖的情况下运行大规模模型的挑战，使开发者和研究人员能够轻松访问。Colibri采用纯C语言构建，能够直接从磁盘流式传输专家模型，确保高效的内存使用和性能。它非常适合希望利用先进机器学习能力的AI爱好者、开发者和研究人员。