NVIDIA · RTX 30 · consumer
RTX 3090
- VRAM24 GB
- Bande passante mémoire936 GB/s
- TDP nominal350 W
- Catégorieconsumer
- Mémoire unifiéenon
face-à-face · GPU LLM
RTX 3090 vs RTX 4080 Super
Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.
24 GB
VRAM RTX 3090
16 GB
VRAM RTX 4080 Super
936 GB/s
BW RTX 3090
736 GB/s
BW RTX 4080 Super
▲ Specs côte à côte
Les chiffres bruts.
NVIDIA · RTX 40 · consumer
RTX 4080 Super
- VRAM16 GB
- Bande passante mémoire736 GB/s
- TDP nominal320 W
- Catégorieconsumer
- Mémoire unifiéenon
▲ Modèles compatibles en Q4 single-GPU
Qui peut faire tourner quoi.
Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.
Sur RTX 3090 (24 GB)
Sur RTX 4080 Super (16 GB)
★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)
▲ Verdict
Ce que les chiffres disent.
RTX 3090 a 8 GB de VRAM en plus, ce qui débloque 3 modèles au-dessus du seuil 16 GB. Côté débit, RTX 3090 a 936 GB/s contre 736 GB/s pour RTX 4080 Super — soit ~27% plus de tok/s en inférence quantization-bound.
Choisir RTX 3090
Tu veux pouvoir charger des modèles plus gros (70B+ en single GPU) sans tensor parallelism.
→ Fiche RTX 3090Choisir RTX 4080 Super
Tu veux un meilleur rapport perf/€, ou tu en mets plusieurs dans ton rig pour scaler.
→ Fiche RTX 4080 SuperAffiner avec ton vrai use case ?
Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.