Abrir la calculadora →
NVIDIADatacenterHopper

NVIDIA H100 NVL para IA local

NVIDIA H100 NVL ofrece 94 GB de VRAM para IA local. En el catálogo LocalIA, 226 de 242 modelos funcionan cómodamente en una sola tarjeta.

Ver modelos compatibles →Rig con NVL ↗
VRAM
94GB
Categoría
Datacenter
Serie
Hopper
Vendor
NVIDIA

Modelos que funcionan cómodamente

Estos modelos caben en 94 GB con margen para contexto e inferencia estable.

★Mistral Large 123Bmistral77.3 GBcómodoQ4 · / 94 GB
★NVIDIA Nemotron 3 Super 120B A12B BF16nemotron75.4 GBcómodoQ4 · / 94 GB
★Llama 4 Scout 17Bx16llama68.5 GBcómodoQ4 · / 94 GB
★Command R+ 104Bcommand65.4 GBcómodoQ4 · / 94 GB
★Qwen 2.5 72Bqwen55.3 GBcómodoQ5 · / 94 GB
Qwen 2.5 VL 72Bqwen55.3 GBcómodoQ5 · / 94 GB
★Qwen2.5 72B Instructqwen55.3 GBcómodoQ5 · / 94 GB
Llama 2 70Bllama78.2 GBcómodoQ8 · / 94 GB
Llama 3 70Bllama78.2 GBcómodoQ8 · / 94 GB
Llama 3.1 70Bllama78.2 GBcómodoQ8 · / 94 GB
★Llama 3.3 70Bllama78.2 GBcómodoQ8 · / 94 GB
CodeLlama 70Bcodellama78.2 GBcómodoQ8 · / 94 GB
★DeepSeek R1 Distill 70Bdeepseek78.2 GBcómodoQ8 · / 94 GB
Hermes 3 70Bhermes78.2 GBcómodoQ8 · / 94 GB
★Llama 3.1 Nemotron 70Bnemotron78.2 GBcómodoQ8 · / 94 GB
Athene 70Bathene78.2 GBcómodoQ8 · / 94 GB
★Llama 3.3 70B Instructllama78.2 GBcómodoQ8 · / 94 GB
★Llama 3.1 70B Instructllama78.2 GBcómodoQ8 · / 94 GB
★DeepSeek R1 Distill Llama 70Bllama78.2 GBcómodoQ8 · / 94 GB
★Llama 3_3 Nemotron Super 49B v1_5llama54.8 GBcómodoQ8 · / 94 GB
★Mixtral 8x7Bmistral52.5 GBcómodoQ8 · / 94 GB
Falcon 40Bfalcon44.7 GBcómodoQ8 · / 94 GB
Command R 35Bcommand78.2 GBcómodoFP16 · / 94 GB
Aya 23 35Baya78.2 GBcómodoFP16 · / 94 GB
CodeLlama 34Bcodellama76.0 GBcómodoFP16 · / 94 GB
Yi 1.5 34Byi76.0 GBcómodoFP16 · / 94 GB
★dolphin 2.9.1 yi 1.5 34byi76.0 GBcómodoFP16 · / 94 GB
★Qwen 2.5 32Bqwen71.5 GBcómodoFP16 · / 94 GB
★Qwen 2.5 Coder 32Bqwen71.5 GBcómodoFP16 · / 94 GB
★Qwen 3 32Bqwen71.5 GBcómodoFP16 · / 94 GB

Modelos justos

Estos modelos caben por poco. Pueden funcionar, pero contexto y velocidad serán limitados.

Mixtral 8x22Bmistral88.6 GBjustoQ4 · / 94 GB

Desbloqueados en rig 2x

Con dos tarjetas en paralelo (188 GB total), modelos más grandes son posibles.

DeepSeek V2deepseek148.4 GBcómodoQ4 · / 188 GB
DeepSeek Coder V2deepseek148.4 GBcómodoQ4 · / 188 GB
★Qwen 3 235B A22Bqwen147.7 GBcómodoQ4 · / 188 GB
★Qwen3 235B A22Bqwen147.7 GBcómodoQ4 · / 188 GB
Falcon 180Bfalcon138.3 GBcómodoQ5 · / 188 GB

Desbloqueados en rig 4x

Configuración servidor (376 GB total) para los modelos open-weight más grandes.

★Llama 3.1 405Bllama311.2 GBcómodoQ5 · / 376 GB
Hermes 3 405Bhermes311.2 GBcómodoQ5 · / 376 GB
★Llama 3.1 405Bllama311.2 GBcómodoQ5 · / 376 GB
★Llama 4 Maverick 17Bx128llama307.3 GBcómodoQ5 · / 376 GB
Nemotron 340Bnemotron261.2 GBcómodoQ5 · / 376 GB

GPUs similares

Estimaciones VRAM actualizadas 2026-06-27.