face-à-face · GPU LLM

RTX 4080 Super vs RTX 5070 Ti

Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.

16 GB
VRAM RTX 4080 Super
16 GB
VRAM RTX 5070 Ti
736 GB/s
BW RTX 4080 Super
896 GB/s
BW RTX 5070 Ti
▲ Specs côte à côte

Les chiffres bruts.

NVIDIA · RTX 40 · consumer

RTX 4080 Super

  • VRAM16 GB
  • Bande passante mémoire736 GB/s
  • TDP nominal320 W
  • Catégorieconsumer
  • Mémoire unifiéenon
→ Fiche RTX 4080 Super
NVIDIA · RTX 50 · consumer

RTX 5070 Ti

  • VRAM16 GB
  • Bande passante mémoire896 GB/s
  • TDP nominal300 W
  • Catégorieconsumer
  • Mémoire unifiéenon
→ Fiche RTX 5070 Ti
▲ Modèles compatibles en Q4 single-GPU

Qui peut faire tourner quoi.

Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.

★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)

▲ Verdict

Ce que les chiffres disent.

Les deux ont 16 GB de VRAM — même seuil de modèles atteignable. Côté débit, RTX 5070 Ti a 896 GB/s contre 736 GB/s pour RTX 4080 Super — soit ~22% plus de tok/s en inférence quantization-bound.

Affiner avec ton vrai use case ?

Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.