RTX A6000
- VRAM48 GB
- Bande passante mémoire768 GB/s
- TDP nominal300 W
- Catégoriepro
- Mémoire unifiéenon
Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.
Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.
★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)
Mac Studio M3 Ultra (256GB) a 208 GB de VRAM en plus, ce qui débloque 1 modèle au-dessus du seuil 48 GB. Consommation : RTX A6000 300 W vs Mac Studio M3 Ultra (256GB) 65 W — écart significatif pour le coût énergétique long terme.
Tu veux un meilleur rapport perf/€, ou tu en mets plusieurs dans ton rig pour scaler.
→ Fiche RTX A6000Tu veux une consommation faible (60 W), unified memory énorme, et un setup macOS silencieux.
→ Fiche Mac Studio M3 Ultra (256GB)Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.