face-à-face · LLM local

DeepSeek R1 Distill 70B vs DeepSeek V3.2

Comparatif chiffré : VRAM requise par quantization, GPUs compatibles pour faire tourner chacun en local, et verdict construit depuis les specs réelles. Pas de bench truqué, juste les chiffres.

70B
params DeepSeek R1 Distill 70B
685B
params DeepSeek V3.2
DeepSeek
famille A
DeepSeek
famille B
▲ Specs côte à côte

Les chiffres bruts.

DeepSeek · 685B · MoE 37B actifs

DeepSeek V3.2

  • Total paramètres685B
  • Paramètres actifs (MoE)37B
  • Contexte max128k tokens
  • FamilleDeepSeek
  • TypeMoE
→ Fiche DeepSeek V3.2
▲ VRAM par quantization

Combien de VRAM il te faut.

Estimation incluant l'overhead (KV cache + activations) ×1.12. Pour un MoE, on prend les paramètres totaux car le modèle complet doit être chargé en mémoire (les experts inactifs aussi).

QuantDeepSeek R1 Distill 70BDeepSeek V3.2Écart
Q334.3 GB27.2 GB7.1 GB
Q444.1 GB35 GB9.1 GB
Q553.9 GB42.7 GB11.2 GB
Q663.7 GB50.5 GB13.2 GB
Q878.4 GB62.2 GB16.2 GB
FP16156.8 GB124.3 GB32.5 GB
▲ GPU minimum pour chacun en Q4

Quel GPU suffit pour quoi.

Pour DeepSeek R1 Distill 70B en Q4

Quadro RTX 8000

48 GB de VRAM — suffisant pour les 44.1 GB requis en Q4.

→ Fiche Quadro RTX 8000
▲ Verdict

Ce que les chiffres disent.

DeepSeek V3.2 est 9.8× plus gros que DeepSeek R1 Distill 70B — plus de connaissances, mais 35 GB de VRAM contre 44 GB. DeepSeek V3.2 est un MoE (37B actifs par token) — débit plus élevé sur serveur dédié, mais charge VRAM complète à charger.

Choisir DeepSeek V3.2

Tu privilégies la qualité de raisonnement, tu as une grosse VRAM (48 GB+), tu acceptes un débit plus faible.

→ Fiche DeepSeek V3.2

Tester avec ton GPU ?

Le calculateur croise ces 2 modèles avec 200+ GPUs et te donne tok/s estimés, €/Mtok et break-even cloud.