Colibri

7440億パラメータのGLM-5.2を、RAM 25GBのコンシューマ機で動かす。それがColibriの狙いです。エキスパートモデルをディスクから直接ストリーミングする方式で、モデル全体をメモリに載せません。実装は純粋なCで、複雑な依存関係を必要としません。高価なハードを用意せずに大規模モデルを触りたい研究者や開発者、AI好きを想定しています。