Configurar un rig →
DeepSeek236B params21B activos (MoE)128k contexto

DeepSeek V2 en local

DeepSeek V2 es un LLM open-weight de la familia DeepSeek, con 236B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: NVIDIA B100 (192 GB).

Comprobar en mi GPU →Hugging Face ↗
Ficha técnica
Parámetros236B
Contexto máximo128k
Q4_K_M148.4 GB
Q5_K_M181.3 GB
Q8263.8 GB
FP16527.5 GB
FamiliaDeepSeek
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
148.4GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
181.3GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
263.8GB

Calidad casi FP16. Cómodo para producción.

FP16
527.5GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar DeepSeek V2 en una sola tarjeta, ordenadas por margen de VRAM.

NVIDIA B100
NVIDIA
192 GB · Blackwell DC
148.4 / 192 GBcómodo · Q4
NVIDIA B200
NVIDIA
192 GB · Blackwell DC
148.4 / 192 GBcómodo · Q4
NVIDIA GB200 (per GPU)
NVIDIA
192 GB · Blackwell DC
148.4 / 192 GBcómodo · Q4
Instinct MI300X
AMD
192 GB · Instinct CDNA 3+
148.4 / 192 GBcómodo · Q4
Mac Studio M2 Ultra (192GB)
Apple
192 GB · Mac Studio
148.4 / 192 GBcómodo · Q4
Mac Studio M3 Ultra (192GB)
Apple
192 GB · Mac Studio
148.4 / 192 GBcómodo · Q4
Mac Pro M2 Ultra (192GB)
Apple
192 GB · Mac Pro
148.4 / 192 GBcómodo · Q4
Instinct MI325X
AMD
256 GB · Instinct CDNA 3+
181.3 / 256 GBcómodo · Q5
Mac Studio M3 Ultra (256GB)
Apple
256 GB · Mac Studio
181.3 / 256 GBcómodo · Q5
Mac Studio M3 Ultra (512GB)
Apple
512 GB · Mac Studio
263.8 / 512 GBcómodo · Q8

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12