2026 DeepSeek V4 Flash 로컬 구동: antirez ds4 엔진의 실제 하드웨어 요구 사항과 96 / 128 / 256 / 512GB Mac 클라우드 노드 단계별 렌탈 의사결정 매트릭스

ds4 는 무엇인가: antirez 는 왜 범용 GGUF 러너가 아닌 DeepSeek V4 Flash 전용 엔진을 만들었는가

ds4 는 DwarfStar 4 의 약자로, Redis 를 만든 Salvatore Sanfilippo(antirez) 가 작성했습니다. llama.cpp 의 래퍼도, 범용 GGUF 로더도, 또 하나의 웹 UI 도 아닙니다. DeepSeek V4 Flash 만을 위해 설계된 네이티브 추론 엔진이며, 주요 백엔드는 macOS 의 Metal 과 Linux 의 CUDA(DGX Spark 포함) 두 가지뿐입니다. AMD ROCm 은 별도 브랜치에서만 관리됩니다. 이러한 「좁고 깊은」 선택이 ds4 가 공개 며칠 만에 GitHub 스타 1 만 개를 돌파하고 범용 러너가 낼 수 없는 수치를 기록한 근본 이유입니다.

범위를 좁힌 덕에 ds4 는 그동안 로컬 추론이 모호하게 처리하던 사안들을 정면 돌파합니다. DeepSeek V4 의 MoE 라우팅에 대해, 라우팅 전문가 레이어만 2-bit 까지 강하게 양자화하고 나머지 레이어는 정밀도를 유지하는 선택적 양자화를 구현했습니다. 1M 토큰 컨텍스트를 1 급 시민으로 다뤄, KV 캐시를 디스크로 지연 기록함으로써 매번 프리필을 재계산하는 비용을 피합니다. 코딩 에이전트에 필요한 Tool Calling 도 외부 프레임워크가 아닌 엔진에 내장돼 있습니다. 핵심 설계 결정을 아래에 정리했습니다.

1. 01

   한 모델만, 그러나 극한까지 다듬는다. README 는 「GGUF 러너가 아니다, 래퍼가 아니다, 프레임워크가 아니다」라고 명시합니다. 모든 그래프 실행 경로가 DeepSeek V4 Flash 의 MoE 구조에 맞춰져 있어 라우팅 전문가는 강하게 양자화하고 나머지 레이어는 정밀도를 유지할 수 있습니다. 호환성을 우선시하는 범용 러너가 거의 시도하지 않는 선택입니다.

2. 02

   Metal 우선, CUDA 병행, CPU 는 진단 전용. macOS 에서는 make 만 실행하면 Metal 백엔드가 빌드됩니다. Linux 는 make cuda-spark 또는 make cuda-generic 을 사용합니다. README 는 「현재 macOS 의 가상 메모리 구현 결함으로 CPU 경로가 커널 패닉을 일으킬 수 있다」고 경고하므로, Mac 에서는 Metal 외 경로로 추론하지 마십시오.

3. 03

   디스크 KV 캐시 네이티브 지원. ds4-server 시작 시 --kv-disk-dir 와 --kv-disk-space-mb 를 전달하면 KV 상태가 지정 디렉터리에 기록되며 세션 간 재사용됩니다. Mac 내장 SSD 와 결합하면 1M 토큰 컨텍스트가 「매번 프리필 세금」에서 「회수 가능한 비용」으로 바뀝니다.

4. 04

   OpenAI 호환 서버 + 내장 에이전트. ds4-server 는 /v1/chat/completions 을 노출하므로 Cursor, opencode, Claude Code 등 OpenAI 프로토콜 기반 클라이언트에 곧바로 연결할 수 있습니다. Tool Calling 도 네이티브 구현되어 외부 프레임워크 없이 실용적인 코딩 에이전트 루프를 구성할 수 있습니다.

5. 05

   「좁음」이 주는 부수 효과 — 감사 가능성. 프로젝트는 자체 완결되어 외부 런타임을 끌어들이지 않습니다. 코드 양이 범용 스택보다 훨씬 적어 소규모 팀도 그래프 실행과 양자화 판단을 직접 검토할 수 있습니다. 운영 환경에서 대형 모델을 다룰 때 중요한 가산점입니다.

「ds4 는 처음부터 Flash 만을 겨냥했다」는 점을 받아들이면, 다음 절에서 다룰 「PRO 는 ds4 로 옮길 수 없다」는 사실이 자연스럽게 이해됩니다. 자료에서 자주 누락되어 굳이 짚어야 하는 내용입니다.

왜 Mac 이어야 하는가: 통합 메모리, 대역폭, 그리고 ds4 디스크 KV 캐시와의 「선천적 궁합」

ds4 가 Metal 을 1 차 백엔드로 둔 이유는 미학이 아니라 공학적 필연입니다. Apple Silicon 의 통합 메모리 아키텍처(UMA) 는 CPU 와 GPU 가 동일한 대형 메모리 풀을 공유하므로 PCIe 버스에서 텐서를 왕복시키는 부담이 없습니다. Flash 처럼 토큰마다 일부 전문가만 활성화되는 MoE 모델에서, UMA 는 「필요한 전문가 가중치만 큰 풀에서 가져오는」 동작을 가능하게 하여 GPU 메모리 상한에 묶이지 않게 합니다. 동일 가격대에서 96GB 부터 512GB 까지 사실상의 VRAM 으로 확보할 수 있는 컨슈머 플랫폼은 존재하지 않습니다.

두 번째 이점은 메모리 대역폭 입니다. M3 Max 계열의 통합 메모리 대역폭은 약 400 GB/s, M3 Ultra 는 약 800 GB/s 로 2 배에 달합니다. ds4 가 Mac Studio M3 Ultra 에서 긴 프롬프트 프리필을 약 449 t/s 까지 끌어올리는 물리적 근거이기도 합니다. 대역폭은 「가중치를 얼마나 빨리 읽느냐」를 결정하며 MoE 추론에서 사실상 단일 병목입니다. Mac 에서는 이 대역폭이 「온전히 GPU 에 주어지므로」 여러 GPU 사이에서 분절되지 않습니다.

세 번째 이점은 자주 간과되지만 ds4 사용 경험에 결정적입니다. macOS 내장 고속 NVMe SSD 는 ds4 의 디스크 KV 캐시와 천연의 궁합을 이룹니다. ds4-server 는 --kv-disk-dir 가 가리키는 디렉터리에 KV 상태를 기록하고 --kv-disk-space-mb 로 최대 점유를 제한합니다. 동일 세션이 재개될 때 수십 초에서 수 분의 프리필을 건너뜁니다. Mac 내장 SSD 의 순차 대역폭은 5~7 GB/s 수준이므로, KV 를 RAM 에 그대로 두는 대안(세션마다 메모리를 한 번 더 잡는)보다 「디스크 보관 + 빠른 재로드」가 더 경제적인 절충입니다.

이 세 가지를 결합하면 결론은 명확합니다. 2026 년 컨슈머 하드웨어에서 DeepSeek V4 Flash 와 ds4 라는 「단일 모델 + 장기 컨텍스트 + 디스크 KV」 조합을 돌리기에 Mac 보다 더 적합한 플랫폼은 없습니다. 남은 질문은 단 하나입니다 — 256GB 또는 512GB Mac 을 부담할 수 있는가, 그리고 프로젝트 사이클 동안 그 장비를 풀가동할 수 있는가.

VpsMesh 클라우드 Mac 노드에서 ds4 를 최소 구성으로 띄우는 6 단계와 Cursor 연동 절차

앞 절들에서 제시한 이론을 한 장의 반복 가능한 절차로 압축합니다. 전제는 VpsMesh 클라우드 Mac 노드(최소 128GB, 권장 256GB, 장기 컨텍스트 쾌적이 목표라면 512GB) 입니다. 각 단계마다 명확한 통과/실패 판정 기준을 두었으므로 팀에서 Runbook 으로 그대로 사용할 수 있습니다.

1. 01

   ds4 빌드(Metal 백엔드). git clone https://github.com/antirez/ds4 && cd ds4 && make 를 실행합니다. 결과물은 ./ds4(CLI)와 ./ds4-server(HTTP 서버)입니다. 통과 기준: 두 바이너리가 존재하고 ./ds4 --help 가 헬프를 출력합니다. macOS 에서는 make cpu 를 실행하지 마십시오. CPU 경로가 커널 패닉을 유발할 수 있습니다.

2. 02

   Metal 백엔드 최소 스모크 테스트. 매우 짧은 프롬프트로 ./ds4 -p "Hello" --metal 을 돌려 디바이스 확보와 기본 그래프 동작을 확인합니다. 노드가 128GB 이상이면 곧바로 Flash q2 가중치 로드 단계로 진행할 수 있습니다. 통과 기준: "Metal device not available" 오류 없음, OOM 미발생.

3. 03

   DeepSeek V4 Flash q2 / q4 가중치 다운로드 및 검증. ds4 프로젝트가 지정하는 GGUF 경로에서 받아옵니다(q2 약 86.7GB, q4 약 150GB). SHA256 을 반드시 검증하십시오. KV 와 가중치는 볼륨 분리 합니다. 가중치는 대용량 데이터 디스크(500GB 이상 여유 권장)에, KV 는 Mac 내장 SSD 에 둡니다. 통과 기준: 체크섬 일치, df -h 가 데이터 디스크에 100GB 이상 여유를 보여 줍니다.

4. 04

   디스크 KV 를 켜고 ds4-server 시작. 예시: ./ds4-server --ctx 200000 --kv-disk-dir /Volumes/ssd-kv/ds4-kv --kv-disk-space-mb 16384 --bind 127.0.0.1:8080. 컨텍스트 윈도우는 200k 로 시작하고 처음부터 1M 을 열지 마십시오. 통과 기준: 시작 로그에 Metal 준비 완료와 KV 디렉터리 쓰기 가능이 표시되고, curl http://127.0.0.1:8080/v1/models 가 JSON 을 반환합니다.

5. 05

   Cursor / opencode / Claude Code 호환 클라이언트 연결. 클라이언트의 base URL 을 ds4-server 로 가리키게 합니다. 원격 8080 을 로컬 127.0.0.1:8080 으로 SSH 터널로 포워딩하십시오(8080 을 0.0.0.0 으로 공개 금지). Authorization 헤더는 시작 인자에 맞게 설정하고, 모델 이름은 ds4 프로젝트 최신 문서를 따릅니다. 통과 기준: 짧은 스트리밍 요청이 /v1/chat/completions 에서 200 OK 를 반환합니다.

6. 06

   관측과 롤백 조건 설정. vm_stat / memory_pressure / iostat 로 메모리 압력과 SSD 쓰기를 관찰합니다. 발화 조건은 스왑 지속 고점, 프리필 속도가 기준치의 50% 미만으로 하락, KV 디렉터리 점유가 --kv-disk-space-mb 의 80% 초과일 때 클라우드 API(OpenAI / Anthropic / 공식 DeepSeek)로 자동 폴백입니다. 통과 기준: 동일 입력에서 폴백 경로가 비교 가능한 결과를 반환합니다.

ssh -L 8080:127.0.0.1:8080 vpsmesh-mac-node \
  './ds4-server \
     --ctx 200000 \
     --kv-disk-dir /Volumes/ssd-kv/ds4-kv \
     --kv-disk-space-mb 16384 \
     --bind 127.0.0.1:8080'

curl -sS http://127.0.0.1:8080/v1/chat/completions \
  -H "Authorization: Bearer $DS4_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{"model":"deepseek-v4-flash-q4","messages":[{"role":"user","content":"hello"}],"stream":false}' \
  | jq .

운영 투입 전 팀 README 에 박아 둘 만한 3 개 데이터 포인트:

• 처리량 기준선: Mac Studio M3 Ultra 512GB 에서 q4 긴 프롬프트(약 12k 토큰) 프리필 약 449 t/s, 생성 약 26.6 t/s. MacBook Pro M3 Max 128GB 에서 q2 긴 프롬프트(약 11.7k 토큰) 프리필 약 250 t/s, 생성 약 21.5 t/s. 각 노드의 건강도 점검 앵커로 활용할 수 있습니다.
• 메모리 예산: q2 가중치 약 86.7GB + 200k 컨텍스트 KV 약 8~14GB + 시스템 약 8GB ≒ 약 110GB 가 출발점. 96GB 노드는 「초단기 컨텍스트」 전용, 128GB 가 실질 실험 하한, 256GB 가 되어야 KV 와 동시 세션에 여유가 생깁니다.
• 디스크 KV 사이징: --kv-disk-space-mb 는 16GB 부터 시작하고, 장기 컨텍스트 세션 1 개당 약 1~3GB 를 잡아 보관 수를 계산합니다. 반드시 Mac 내장 SSD 를 사용하십시오. 외장 드라이브에서는 KV 재로드가 새 병목이 됩니다.

「256/512GB Mac Studio 구매 vs 클라우드 Mac 노드 렌탈로 ds4 운영」을 저울질할 때는 다음 두 항목을 비교표에 반드시 포함하십시오. ① 본 장비의 숨은 청구서(전기 요금, 소음, 냉각, 보증 만료 후 수리 리스크, Apple Silicon 이 3 년 안에 2~3 세대 갱신되며 가속되는 감가). ② 자체 호스팅의 운영 비용(재부팅 후 ds4-server 데몬화, 디스크 KV 수위 점검, Cursor / opencode 링크 자가 치유). 모두 「코딩」 본연의 가치에 속하지 않지만, 시간을 꾸준히 갉아먹습니다. 「기계 보살피기」가 아닌 「모델 돌리고 코드 쓰기」에 시간을 쏟고 싶은 독립 개발자·연구자·소규모 팀에게는, 96 / 128 / 256 / 512GB 를 수요에 따라 전환할 수 있는 VpsMesh 고메모리 클라우드 Mac 노드가 현실적이면서도 경제적인 선택지 입니다. 먼저 1 주일치 128GB 로 Flash q2 적합성을 검증하고, 1 개월치 256GB 로 Cursor 와 코딩 에이전트의 체감을 끌어올린 다음, 마지막에 512GB 상주 여부를 판단하는 단계적 접근은 처음부터 2,000 만 원 규모의 Mac Studio 를 사들이는 것보다 훨씬 위험이 낮습니다.