NVIDIADatacenterHopper

NVIDIA H100 80GB para IA local

NVIDIA H100 80GB ofrece 80 GB de VRAM para IA local. En el catálogo LocalIA, 224 de 242 modelos funcionan cómodamente en una sola tarjeta.

VRAM
80GB
Categoría
Datacenter
Serie
Hopper
Vendor
NVIDIA

Modelos que funcionan cómodamente

Estos modelos caben en 80 GB con margen para contexto e inferencia estable.

Command R+ 104Bcommand65.4 GBcómodoQ4 · / 80 GB
Qwen3 Next 80B A3B Instructqwen61.5 GBcómodoQ5 · / 80 GB
Qwen 2.5 72Bqwen55.3 GBcómodoQ5 · / 80 GB
Qwen 2.5 VL 72Bqwen55.3 GBcómodoQ5 · / 80 GB
Qwen2.5 72B Instructqwen55.3 GBcómodoQ5 · / 80 GB
Llama 2 70Bllama53.8 GBcómodoQ5 · / 80 GB
Llama 3 70Bllama53.8 GBcómodoQ5 · / 80 GB
Llama 3.1 70Bllama53.8 GBcómodoQ5 · / 80 GB
Llama 3.3 70Bllama53.8 GBcómodoQ5 · / 80 GB
CodeLlama 70Bcodellama53.8 GBcómodoQ5 · / 80 GB
DeepSeek R1 Distill 70Bdeepseek53.8 GBcómodoQ5 · / 80 GB
Hermes 3 70Bhermes53.8 GBcómodoQ5 · / 80 GB
Llama 3.1 Nemotron 70Bnemotron53.8 GBcómodoQ5 · / 80 GB
Athene 70Bathene53.8 GBcómodoQ5 · / 80 GB
Llama 3.3 70B Instructllama53.8 GBcómodoQ5 · / 80 GB
Llama 3.1 70B Instructllama53.8 GBcómodoQ5 · / 80 GB
Mixtral 8x7Bmistral52.5 GBcómodoQ8 · / 80 GB
Falcon 40Bfalcon44.7 GBcómodoQ8 · / 80 GB
Command R 35Bcommand39.1 GBcómodoQ8 · / 80 GB
Aya 23 35Baya39.1 GBcómodoQ8 · / 80 GB
CodeLlama 34Bcodellama38.0 GBcómodoQ8 · / 80 GB
Yi 1.5 34Byi38.0 GBcómodoQ8 · / 80 GB
dolphin 2.9.1 yi 1.5 34byi38.0 GBcómodoQ8 · / 80 GB
Qwen 2.5 32Bqwen35.8 GBcómodoQ8 · / 80 GB
Qwen 2.5 Coder 32Bqwen35.8 GBcómodoQ8 · / 80 GB
Qwen 3 32Bqwen35.8 GBcómodoQ8 · / 80 GB
QwQ 32Bqwq35.8 GBcómodoQ8 · / 80 GB
DeepSeek R1 Distill 32Bdeepseek35.8 GBcómodoQ8 · / 80 GB
Qwen 2.5 VL 32Bqwen35.8 GBcómodoQ8 · / 80 GB
Granite 4 H-Small 32B-A9Bgranite35.8 GBcómodoQ8 · / 80 GB

Modelos justos

Estos modelos caben por poco. Pueden funcionar, pero contexto y velocidad serán limitados.

Mistral Large 123Bmistral77.3 GBjustoQ4 · / 80 GB
Llama 4 Scout 17Bx16llama68.5 GBjustoQ4 · / 80 GB

Desbloqueados en rig 2x

Con dos tarjetas en paralelo (160 GB total), modelos más grandes son posibles.

DeepSeek V2deepseek148.4 GBjustoQ4 · / 160 GB
DeepSeek Coder V2deepseek148.4 GBjustoQ4 · / 160 GB
Qwen 3 235B A22Bqwen147.7 GBjustoQ4 · / 160 GB
Qwen3 235B A22Bqwen147.7 GBjustoQ4 · / 160 GB
Falcon 180Bfalcon113.2 GBcómodoQ4 · / 160 GB
Mixtral 8x22Bmistral108.3 GBcómodoQ5 · / 160 GB

Desbloqueados en rig 4x

Configuración servidor (320 GB total) para los modelos open-weight más grandes.

Llama 3.1 405Bllama254.6 GBcómodoQ4 · / 320 GB
Hermes 3 405Bhermes254.6 GBcómodoQ4 · / 320 GB
Llama 4 Maverick 17Bx128llama251.5 GBcómodoQ4 · / 320 GB
Nemotron 340Bnemotron261.2 GBcómodoQ5 · / 320 GB

GPUs similares

Estimaciones VRAM actualizadas 2026-05-12.