NVIDIA · Hopper · datacenter
NVIDIA H200 141GB
- VRAM141 GB
- Bande passante mémoire4800 GB/s
- TDP nominal700 W
- Catégoriedatacenter
- Mémoire unifiéenon
face-à-face · GPU LLM
NVIDIA H200 141GB vs RTX 3090
Quel GPU pour faire tourner quel modèle en local. Comparatif sur VRAM, bande passante mémoire, consommation, et les modèles populaires que chacun peut charger en Q4 single-GPU.
141 GB
VRAM NVIDIA H200 141GB
24 GB
VRAM RTX 3090
4800 GB/s
BW NVIDIA H200 141GB
936 GB/s
BW RTX 3090
▲ Specs côte à côte
Les chiffres bruts.
NVIDIA · RTX 30 · consumer
RTX 3090
- VRAM24 GB
- Bande passante mémoire936 GB/s
- TDP nominal350 W
- Catégorieconsumer
- Mémoire unifiéenon
▲ Modèles compatibles en Q4 single-GPU
Qui peut faire tourner quoi.
Liste des modèles populaires (Llama 70B, Qwen 72B, Mistral Large…) qui passent en VRAM single-GPU en quantization Q4. Pour les multi-GPU ou les quants moins agressifs, ouvrir le calculateur.
Sur NVIDIA H200 141GB (141 GB)
Sur RTX 3090 (24 GB)
★ = exclusivité (ne tourne pas sur l'autre GPU en single-GPU Q4)
▲ Verdict
Ce que les chiffres disent.
NVIDIA H200 141GB a 117 GB de VRAM en plus, ce qui débloque 3 modèles au-dessus du seuil 24 GB. Côté débit, NVIDIA H200 141GB a 4800 GB/s contre 936 GB/s pour RTX 3090 — soit ~413% plus de tok/s en inférence quantization-bound. Consommation : NVIDIA H200 141GB 700 W vs RTX 3090 350 W — écart significatif pour le coût énergétique long terme.
Choisir NVIDIA H200 141GB
Tu vises du serveur 24/7, multi-tenant, avec FP8 / sparsity hardware et NVLink à pleine vitesse.
→ Fiche NVIDIA H200 141GBChoisir RTX 3090
Tu veux un setup desktop accessible, pas de licence pro, garantie consumer standard.
→ Fiche RTX 3090Affiner avec ton vrai use case ?
Le calculateur estime tok/s, €/Mtok et break-even cloud pour ces GPUs avec le modèle de ton choix.