DeepSeek685B params37B aktiv (MoE)128k Kontextbeliebt

DeepSeek V3.2 lokal

DeepSeek V3.2 ist ein Open-Weight-LLM aus der Familie DeepSeek mit 685B Parametern. Haupteinsatz: chat, RAG and general assistance. Erkannte Mindesthardware: Mac Studio M3 Ultra (512GB) (512 GB).

Technische Daten
Parameter685B
Max. Kontext128k
Q4_K_M430.6 GB
Q5_K_M526.3 GB
Q8765.5 GB
FP161531.1 GB
FamilieDeepSeek
Letzter Sync2026-05-12

Verfügbare Quantizations

Q4_K_M
430.6GB

Akzeptabel. Guter Kompromiss bei knapper VRAM.

Q5_K_M
526.3GB

Gute Qualität. Sweet Spot aus Größe und Präzision.

Q8
765.5GB

Fast FP16-Qualität. Produktionstauglich.

FP16
1531.1GB

Referenzpräzision. Maximale Qualität, doppelte VRAM.

Kompatible GPUs

GPUs, die DeepSeek V3.2 auf einer einzelnen Karte ausführen können, nach VRAM-Spielraum sortiert.

Ähnliche Modelle

VRAM-Schätzung: Parameter x bits/8 plus Reserve. Reale Leistung hängt von Engine, Kontext und Batch ab.
sync: 2026-05-12