NVIDIA · RTX 30 · consumer
RTX 3090
- VRAM24 GB
- Bande passante mémoire936 GB/s
- TDP nominal350 W
- Catégorieconsumer
- Mémoire unifiéenon
Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.
Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.
★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)
Les deux ont 24 GB de VRAM — même seuil de modèles atteignable.
Meilleur compromis VRAM/débit/prix pour ton use case précis.
→ Fiche RTX 3090Meilleur compromis VRAM/débit/prix pour ton use case précis.
→ Fiche RTX 4090Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.