Configurar un rig →
CodeLlama34B params16k contexto

CodeLlama 34B en local

CodeLlama 34B es un LLM open-weight de la familia CodeLlama, con 34B parámetros. Uso principal: code and developer agents. Hardware mínimo detectado: TITAN RTX (24 GB).

Comprobar en mi GPU →Hugging Face ↗
Ficha técnica
Parámetros34B
Contexto máximo16k
Q4_K_M21.4 GB
Q5_K_M26.1 GB
Q838.0 GB
FP1676.0 GB
FamiliaCodeLlama
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
21.4GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
26.1GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
38.0GB

Calidad casi FP16. Cómodo para producción.

FP16
76.0GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar CodeLlama 34B en una sola tarjeta, ordenadas por margen de VRAM.

TITAN RTX
NVIDIA
24 GB · RTX 20
21.4 / 24 GBjusto · Q4
RTX 3090
NVIDIA
24 GB · RTX 30
21.4 / 24 GBjusto · Q4
RTX 3090 Ti
NVIDIA
24 GB · RTX 30
21.4 / 24 GBjusto · Q4
RTX 4090
NVIDIA
24 GB · RTX 40
21.4 / 24 GBjusto · Q4
Quadro RTX 6000
NVIDIA
24 GB · Quadro RTX
21.4 / 24 GBjusto · Q4
RTX A5000
NVIDIA
24 GB · RTX A (Ampere)
21.4 / 24 GBjusto · Q4
RTX A5500
NVIDIA
24 GB · RTX A (Ampere)
21.4 / 24 GBjusto · Q4
RTX 4500 Ada
NVIDIA
24 GB · RTX Ada
21.4 / 24 GBjusto · Q4
NVIDIA A10
NVIDIA
24 GB · Ampere DC
21.4 / 24 GBjusto · Q4
NVIDIA A30
NVIDIA
24 GB · Ampere DC
21.4 / 24 GBjusto · Q4
NVIDIA L4
NVIDIA
24 GB · Lovelace DC
21.4 / 24 GBjusto · Q4
Radeon RX 7900 XTX
AMD
24 GB · RDNA 3
21.4 / 24 GBjusto · Q4

Rigs multi-GPU recomendados

Para CodeLlama 34B con quantization más alta o más contexto, un rig multi-GPU da más margen.

2× GTX 1080 Ti
NVIDIA
22 GB · GTX 10
21.4 / 22 GBjusto · Q4
2× RTX 2080 Ti
NVIDIA
22 GB · RTX 20
21.4 / 22 GBjusto · Q4
4× GTX 1060 6GB
NVIDIA
24 GB · GTX 10
21.4 / 24 GBjusto · Q4
4× GTX 1660
NVIDIA
24 GB · GTX 16
21.4 / 24 GBjusto · Q4
4× GTX 1660 Super
NVIDIA
24 GB · GTX 16
21.4 / 24 GBjusto · Q4
4× GTX 1660 Ti
NVIDIA
24 GB · GTX 16
21.4 / 24 GBjusto · Q4
4× RTX 2060 6GB
NVIDIA
24 GB · RTX 20
21.4 / 24 GBjusto · Q4
2× RTX 2060 12GB
NVIDIA
24 GB · RTX 20
21.4 / 24 GBjusto · Q4

Rig recomendado

2× GTX 1080 Ti

CodeLlama 34B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar →

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12