NVIDIA A100 80GB
- VRAM80 GB
- Bande passante mémoire1935 GB/s
- TDP nominal300 W
- Catégoriedatacenter
- Mémoire unifiéenon
Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.
Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.
★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)
NVIDIA A100 80GB a 48 GB de VRAM en plus, ce qui débloque 3 modèles au-dessus du seuil 32 GB. Consommation : NVIDIA A100 80GB 300 W vs RTX 5090 575 W — écart significatif pour le coût énergétique long terme.
Tu vises du serveur 24/7, multi-tenant, avec FP8 / sparsity hardware et NVLink à pleine vitesse.
→ Fiche NVIDIA A100 80GBTu veux un setup desktop accessible, pas de licence pro, garantie consumer standard.
→ Fiche RTX 5090Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.