face-à-face · GPU LLM

NVIDIA H100 80GB vs RTX 5090

Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.

80 GB
VRAM NVIDIA H100 80GB
32 GB
VRAM RTX 5090
2039 GB/s
BW NVIDIA H100 80GB
1792 GB/s
BW RTX 5090
▲ Specs côte à côte

Les chiffres bruts.

NVIDIA · Hopper · datacenter

NVIDIA H100 80GB

  • VRAM80 GB
  • Bande passante mémoire2039 GB/s
  • TDP nominal350 W
  • Catégoriedatacenter
  • Mémoire unifiéenon
→ Fiche NVIDIA H100 80GB
NVIDIA · RTX 50 · consumer

RTX 5090

  • VRAM32 GB
  • Bande passante mémoire1792 GB/s
  • TDP nominal575 W
  • Catégorieconsumer
  • Mémoire unifiéenon
→ Fiche RTX 5090
▲ Modèles compatibles en Q4 single-GPU

Qui peut faire tourner quoi.

Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.

★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)

▲ Verdict

Ce que les chiffres disent.

NVIDIA H100 80GB a 48 GB de VRAM en plus, ce qui débloque 3 modèles au-dessus du seuil 32 GB. Consommation : NVIDIA H100 80GB 350 W vs RTX 5090 575 W — écart significatif pour le coût énergétique long terme.

Choisir NVIDIA H100 80GB

Tu vises du serveur 24/7, multi-tenant, avec FP8 / sparsity hardware et NVLink à pleine vitesse.

→ Fiche NVIDIA H100 80GB
Choisir RTX 5090

Tu veux un setup desktop accessible, pas de licence pro, garantie consumer standard.

→ Fiche RTX 5090

Affiner avec ton vrai use case ?

Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.