DeepSeek236B params21B aktiv (MoE)128k Kontext
DeepSeek V2 lokal
DeepSeek V2 ist ein Open-Weight-LLM aus der Familie DeepSeek mit 236B Parametern. Haupteinsatz: chat, RAG and general assistance. Erkannte Mindesthardware: NVIDIA B100 (192 GB).
Technische Daten
Parameter236B
Max. Kontext128k
Q4_K_M148.4 GB
Q5_K_M181.3 GB
Q8263.8 GB
FP16527.5 GB
FamilieDeepSeek
Letzter Sync2026-05-12
Verfügbare Quantizations
GGUF-GewichteQ4_K_M
148.4GB
Akzeptabel. Guter Kompromiss bei knapper VRAM.
Q5_K_M
181.3GB
Gute Qualität. Sweet Spot aus Größe und Präzision.
Q8
263.8GB
Fast FP16-Qualität. Produktionstauglich.
FP16
527.5GB
Referenzpräzision. Maximale Qualität, doppelte VRAM.
Kompatible GPUs
10 single-GPUGPUs, die DeepSeek V2 auf einer einzelnen Karte ausführen können, nach VRAM-Spielraum sortiert.
NVIDIA B100
NVIDIA192 GB · Blackwell DC
148.4 / 192 GBkomfortabel · Q4
NVIDIA B200
NVIDIA192 GB · Blackwell DC
148.4 / 192 GBkomfortabel · Q4
NVIDIA GB200 (per GPU)
NVIDIA192 GB · Blackwell DC
148.4 / 192 GBkomfortabel · Q4
Instinct MI300X
AMD192 GB · Instinct CDNA 3+
148.4 / 192 GBkomfortabel · Q4
Mac Studio M2 Ultra (192GB)
Apple192 GB · Mac Studio
148.4 / 192 GBkomfortabel · Q4
Mac Studio M3 Ultra (192GB)
Apple192 GB · Mac Studio
148.4 / 192 GBkomfortabel · Q4
Mac Pro M2 Ultra (192GB)
Apple192 GB · Mac Pro
148.4 / 192 GBkomfortabel · Q4
Instinct MI325X
AMD256 GB · Instinct CDNA 3+
181.3 / 256 GBkomfortabel · Q5
Mac Studio M3 Ultra (256GB)
Apple256 GB · Mac Studio
181.3 / 256 GBkomfortabel · Q5
Mac Studio M3 Ultra (512GB)
Apple512 GB · Mac Studio
263.8 / 512 GBkomfortabel · Q8
Ähnliche Modelle
VRAM-Schätzung: Parameter x bits/8 plus Reserve. Reale Leistung hängt von Engine, Kontext und Batch ab.
sync: 2026-05-12