本文へスキップ

Ds4

Metal・CUDA・ROCm 向けの DeepSeek 4 Flash / PRO ローカル推論エンジン。

AI 1日前
カテゴリー
AI
ウェブサイト
github.com
言語
英語
登録日
1日前
スター
20,580
フォーク
1,823

antirez/ds4 ↗ · C · MIT · 最終コミット 1日前

DwarfStar(ds4)は DeepSeek V4 Flash を第一に据えて作られた小さなネイティブ推論エンジンです。GLM 5.2 に対応し、大容量メモリのマシンでは DeepSeek V4 PRO も動かせます。汎用の GGUF ランナーではなく、意図的に守備範囲を絞った自己完結型で、モデルのロード、プロンプトレンダリング、ツール呼び出し、KV 状態、HTTP サーバー、コーディングエージェントまでを一体で作り、一緒にテストしています。主対象は Metal で 96GB 以上の Mac(それ未満は SSD ストリーミング)、NVIDIA CUDA と AMD ROCm もサポート。GGUF 変換や imatrix、品質・速度計測のツール類も同梱されています。

この製品が気に入りましたか?