lumabri

lumabri は colibri エンジンを使い、巨大な MoE(専門家混合)モデルをピアのスワームから動かす純 C 実装で、外部依存はありません。モデルを事前にダウンロードせず、推論が実際に触れるバイトだけを初回利用時にピアから取得してローカルミラーに蓄え、各 MiB を sha256 で検証します。ルーティングされた専門家は重みを持つピア側で実行され、手元のマシンには dense 重み・ルーター・KV キャッシュだけが残ります。CPU と SSD を第一に設計され、GPU の有無にかかわらずバイト単位で同一の出力を返し、ライセンスは Apache-2.0 です。