AMD · Instinct CDNA 3+ · datacenter
Instinct MI300X
- VRAM192 GB
- Bande passante mémoire5300 GB/s
- TDP nominal750 W
- Catégoriedatacenter
- Mémoire unifiéenon
face-à-face · GPU LLM
Instinct MI300X vs RTX 5080
Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.
192 GB
VRAM Instinct MI300X
16 GB
VRAM RTX 5080
5300 GB/s
BW Instinct MI300X
960 GB/s
BW RTX 5080
▲ Specs côte à côte
Les chiffres bruts.
NVIDIA · RTX 50 · consumer
RTX 5080
- VRAM16 GB
- Bande passante mémoire960 GB/s
- TDP nominal360 W
- Catégorieconsumer
- Mémoire unifiéenon
▲ Modèles compatibles en Q4 single-GPU
Qui peut faire tourner quoi.
Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.
Sur Instinct MI300X (192 GB)
- Llama 3.1 8B8B
- Mistral 7B v0.37B
- Qwen 2.5 7B7B
- Phi-4 14B14B
- Gemma 3 27B27B★
- Qwen 2.5 32B32B★
- DeepSeek R1 Distill 32B32B★
- Llama 3.3 70B70B★
- Qwen 2.5 72B72B★
- Mistral Large 123B123B★
Sur RTX 5080 (16 GB)
★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)
▲ Verdict
Ce que les chiffres disent.
Instinct MI300X a 176 GB de VRAM en plus, ce qui débloque 6 modèles au-dessus du seuil 16 GB. Côté débit, Instinct MI300X a 5300 GB/s contre 960 GB/s pour RTX 5080 — soit ~452% plus de tok/s en inférence quantization-bound. Consommation : Instinct MI300X 750 W vs RTX 5080 360 W — écart significatif pour le coût énergétique long terme.
Choisir Instinct MI300X
Tu vises du serveur 24/7, multi-tenant, avec FP8 / sparsity hardware et NVLink à pleine vitesse.
→ Fiche Instinct MI300XChoisir RTX 5080
Tu veux un setup desktop accessible, pas de licence pro, garantie consumer standard.
→ Fiche RTX 5080Affiner avec ton vrai use case ?
Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.