face-à-face · GPU LLM

RTX 3090 vs RTX 5000 Ada

Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.

24 GB
VRAM RTX 3090
32 GB
VRAM RTX 5000 Ada
936 GB/s
BW RTX 3090
576 GB/s
BW RTX 5000 Ada
▲ Specs côte à côte

Les chiffres bruts.

NVIDIA · RTX 30 · consumer

RTX 3090

  • VRAM24 GB
  • Bande passante mémoire936 GB/s
  • TDP nominal350 W
  • Catégorieconsumer
  • Mémoire unifiéenon
→ Fiche RTX 3090
NVIDIA · RTX Ada · pro

RTX 5000 Ada

  • VRAM32 GB
  • Bande passante mémoire576 GB/s
  • TDP nominal250 W
  • Catégoriepro
  • Mémoire unifiéenon
→ Fiche RTX 5000 Ada
▲ Modèles compatibles en Q4 single-GPU

Qui peut faire tourner quoi.

Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.

★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)

▲ Verdict

Ce que les chiffres disent.

RTX 5000 Ada a 8 GB de VRAM en plus, ce qui débloque 0 modèle au-dessus du seuil 24 GB. Côté débit, RTX 3090 a 936 GB/s contre 576 GB/s pour RTX 5000 Ada — soit ~63% plus de tok/s en inférence quantization-bound.

Choisir RTX 3090

Tu veux un setup desktop accessible, pas de licence pro, garantie consumer standard.

→ Fiche RTX 3090
Choisir RTX 5000 Ada

Tu veux ECC, support workstation, double-precision et drivers certifiés CAD/AI.

→ Fiche RTX 5000 Ada

Affiner avec ton vrai use case ?

Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.