face-à-face · GPU LLM

NVIDIA A100 80GB vs NVIDIA H100 80GB

Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.

80 GB
VRAM NVIDIA A100 80GB
80 GB
VRAM NVIDIA H100 80GB
1935 GB/s
BW NVIDIA A100 80GB
2039 GB/s
BW NVIDIA H100 80GB
▲ Specs côte à côte

Les chiffres bruts.

NVIDIA · Ampere DC · datacenter

NVIDIA A100 80GB

  • VRAM80 GB
  • Bande passante mémoire1935 GB/s
  • TDP nominal300 W
  • Catégoriedatacenter
  • Mémoire unifiéenon
→ Fiche NVIDIA A100 80GB
NVIDIA · Hopper · datacenter

NVIDIA H100 80GB

  • VRAM80 GB
  • Bande passante mémoire2039 GB/s
  • TDP nominal350 W
  • Catégoriedatacenter
  • Mémoire unifiéenon
→ Fiche NVIDIA H100 80GB
▲ Modèles compatibles en Q4 single-GPU

Qui peut faire tourner quoi.

Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.

★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)

▲ Verdict

Ce que les chiffres disent.

Les deux ont 80 GB de VRAM — même seuil de modèles atteignable.

Affiner avec ton vrai use case ?

Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.