DeepSeek671B params37B aktiv (MoE)128k Kontextbeliebt

DeepSeek V3 lokal

DeepSeek V3 ist ein Open-Weight-LLM aus der Familie DeepSeek mit 671B Parametern. Haupteinsatz: chat, RAG and general assistance. Erkannte Mindesthardware: Mac Studio M3 Ultra (512GB) (512 GB).

Auf meiner GPU prüfen →Hugging Face ↗

Technische Daten

Parameter671B

Max. Kontext128k

Q4_K_M421.8 GB

Q5_K_M515.6 GB

Q8749.9 GB

FP161499.8 GB

FamilieDeepSeek

Letzter Sync2026-05-12

Verfügbare Quantizations

GGUF-Gewichte

Q4_K_M

421.8GB

Akzeptabel. Guter Kompromiss bei knapper VRAM.

Q5_K_M

515.6GB

Gute Qualität. Sweet Spot aus Größe und Präzision.

749.9GB

Fast FP16-Qualität. Produktionstauglich.

FP16

1499.8GB

Referenzpräzision. Maximale Qualität, doppelte VRAM.

Kompatible GPUs

1 single-GPU

GPUs, die DeepSeek V3 auf einer einzelnen Karte ausführen können, nach VRAM-Spielraum sortiert.

Mac Studio M3 Ultra (512GB)

Apple

512 GB · Mac Studio

421.8 / 512 GBkomfortabel · Q4

Verfügbare Quantizations

Kompatible GPUs

Ähnliche Modelle