Configurar un rig →
CodeLlama13B params16k contexto

CodeLlama 13B en local

CodeLlama 13B es un LLM open-weight de la familia CodeLlama, con 13B parámetros. Uso principal: code and developer agents. Hardware mínimo detectado: RTX 3080 10GB (10 GB).

Comprobar en mi GPU →Hugging Face ↗
Ficha técnica
Parámetros13B
Contexto máximo16k
Q4_K_M8.2 GB
Q5_K_M10.0 GB
Q814.5 GB
FP1629.1 GB
FamiliaCodeLlama
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
8.2GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
10.0GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
14.5GB

Calidad casi FP16. Cómodo para producción.

FP16
29.1GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar CodeLlama 13B en una sola tarjeta, ordenadas por margen de VRAM.

RTX 3080 10GB
NVIDIA
10 GB · RTX 30
8.2 / 10 GBcómodo · Q4
Radeon RX 6700
AMD
10 GB · RDNA 2
8.2 / 10 GBcómodo · Q4
Arc B570
Intel
10 GB · Arc Battlemage
8.2 / 10 GBcómodo · Q4
GTX 1080 Ti
NVIDIA
11 GB · GTX 10
8.2 / 11 GBcómodo · Q4
RTX 2080 Ti
NVIDIA
11 GB · RTX 20
8.2 / 11 GBcómodo · Q4
RTX 2060 12GB
NVIDIA
12 GB · RTX 20
10.0 / 12 GBcómodo · Q5
RTX 3060 12GB
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcómodo · Q5
RTX 3080 12GB
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcómodo · Q5
RTX 3080 Ti
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcómodo · Q5
RTX 4070
NVIDIA
12 GB · RTX 40
10.0 / 12 GBcómodo · Q5
RTX 4070 Super
NVIDIA
12 GB · RTX 40
10.0 / 12 GBcómodo · Q5
RTX 4070 Ti
NVIDIA
12 GB · RTX 40
10.0 / 12 GBcómodo · Q5

Rigs multi-GPU recomendados

Para CodeLlama 13B con quantization más alta o más contexto, un rig multi-GPU da más margen.

2× GTX 1060 6GB
NVIDIA
12 GB · GTX 10
10.0 / 12 GBcómodo · Q5
2× GTX 1660
NVIDIA
12 GB · GTX 16
10.0 / 12 GBcómodo · Q5
2× GTX 1660 Super
NVIDIA
12 GB · GTX 16
10.0 / 12 GBcómodo · Q5
2× GTX 1660 Ti
NVIDIA
12 GB · GTX 16
10.0 / 12 GBcómodo · Q5
2× RTX 2060 6GB
NVIDIA
12 GB · RTX 20
10.0 / 12 GBcómodo · Q5
2× RTX 3050 6GB
NVIDIA
12 GB · RTX 30
10.0 / 12 GBcómodo · Q5
2× Arc A380
Intel
12 GB · Arc Alchemist
10.0 / 12 GBcómodo · Q5
2× GTX 1070
NVIDIA
16 GB · GTX 10
10.0 / 16 GBcómodo · Q5

Rig recomendado

2× GTX 1060 6GB

CodeLlama 13B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar →

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12