Configurar un rig →
Codestral22B params33k contextopopular

Codestral 22B en local

Codestral 22B es un LLM open-weight de la familia Codestral, con 22B parámetros. Uso principal: code and developer agents. Hardware mínimo detectado: RTX 4060 Ti 16GB (16 GB).

Comprobar en mi GPU →Hugging Face ↗
Ficha técnica
Parámetros22B
Contexto máximo33k
Q4_K_M13.8 GB
Q5_K_M16.9 GB
Q824.6 GB
FP1649.2 GB
FamiliaCodestral
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
13.8GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
16.9GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
24.6GB

Calidad casi FP16. Cómodo para producción.

FP16
49.2GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar Codestral 22B en una sola tarjeta, ordenadas por margen de VRAM.

RTX 4060 Ti 16GB
NVIDIA
16 GB · RTX 40
13.8 / 16 GBjusto · Q4
RTX 4070 Ti Super
NVIDIA
16 GB · RTX 40
13.8 / 16 GBjusto · Q4
RTX 4080
NVIDIA
16 GB · RTX 40
13.8 / 16 GBjusto · Q4
RTX 4080 Super
NVIDIA
16 GB · RTX 40
13.8 / 16 GBjusto · Q4
RTX 5060 Ti 16GB
NVIDIA
16 GB · RTX 50
13.8 / 16 GBjusto · Q4
RTX 5070 Ti
NVIDIA
16 GB · RTX 50
13.8 / 16 GBjusto · Q4
RTX 5080
NVIDIA
16 GB · RTX 50
13.8 / 16 GBjusto · Q4
Quadro RTX 5000
NVIDIA
16 GB · Quadro RTX
13.8 / 16 GBjusto · Q4
RTX A4000
NVIDIA
16 GB · RTX A (Ampere)
13.8 / 16 GBjusto · Q4
RTX 2000 Ada
NVIDIA
16 GB · RTX Ada
13.8 / 16 GBjusto · Q4
Radeon RX 6800
AMD
16 GB · RDNA 2
13.8 / 16 GBjusto · Q4
Radeon RX 6800 XT
AMD
16 GB · RDNA 2
13.8 / 16 GBjusto · Q4

Rigs multi-GPU recomendados

Para Codestral 22B con quantization más alta o más contexto, un rig multi-GPU da más margen.

2× GTX 1070
NVIDIA
16 GB · GTX 10
13.8 / 16 GBjusto · Q4
2× GTX 1070 Ti
NVIDIA
16 GB · GTX 10
13.8 / 16 GBjusto · Q4
2× GTX 1080
NVIDIA
16 GB · GTX 10
13.8 / 16 GBjusto · Q4
4× GTX 1650
NVIDIA
16 GB · GTX 16
13.8 / 16 GBjusto · Q4
2× RTX 2060 Super
NVIDIA
16 GB · RTX 20
13.8 / 16 GBjusto · Q4
2× RTX 2070
NVIDIA
16 GB · RTX 20
13.8 / 16 GBjusto · Q4
2× RTX 2070 Super
NVIDIA
16 GB · RTX 20
13.8 / 16 GBjusto · Q4
2× RTX 2080
NVIDIA
16 GB · RTX 20
13.8 / 16 GBjusto · Q4

Rig recomendado

2× GTX 1070

Codestral 22B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar →

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12