본문 바로가기

Ds4

Metal·CUDA·ROCm 에서 DeepSeek 4 Flash 와 PRO 를 돌리는 로컬 추론 엔진.

AI 1일 전
카테고리
AI
웹사이트
github.com
언어
영어
등록일
1일 전
포크
1,823

antirez/ds4 ↗ · C · MIT · 최근 커밋 1일 전

DwarfStar(ds4)는 DeepSeek V4 Flash 를 1순위로 겨냥해 만든 작은 네이티브 추론 엔진입니다. GLM 5.2 를 지원하고, 메모리가 아주 큰 장비에서는 DeepSeek V4 PRO 도 돌립니다. 범용 GGUF 러너가 아니라 의도적으로 좁게 설계된 자립형 엔진이라, 모델 로딩부터 프롬프트 렌더링, 툴 호출, KV 상태, HTTP 서버, 코딩 에이전트까지 한 몸으로 만들어지고 함께 테스트됩니다. 주 백엔드는 Metal 로 96GB 이상 Mac 이 기준이며(작은 장비는 SSD 스트리밍), NVIDIA CUDA 와 AMD ROCm 도 지원합니다. GGUF 변환·imatrix·품질·속도 측정 도구까지 저장소에 같이 들어 있습니다.

이 제품이 마음에 드세요?