- カテゴリー
- その他
- ウェブサイト
- deepgrove.ai
- 言語
- 英語
- 登録日
- 17日前
パラメータ 1 つを 3 種類の値のいずれかで保持する、三値重みのオープンソース 20B-A1B 推論モデルです。その分だけ容量が縮み、GPU を借りずに手元のハードウェアで推論が回ります。Mixture of Experts のルーティングにより、1 トークンあたり実際に動くパラメータは約 10 億にとどまり、全体規模の割にデコードが軽く済みます。
公開したのは、どんな端末でも動くフロンティアモデルを掲げる独立系ラボ DeepGrove。三値カーネルと自前の FlashHead を組み合わせ、16GB の M4 Mac mini で毎秒 218 トークンを記録したというのがラボ側の数字で、Hacker News には iPhone で毎秒 120 トークンという見出しで投稿されました。公開日は 2026 年 8 月 4 日です。
この製品が気に入りましたか？