Gemma27B params128k contextopopular

Gemma 3 27B en local

Gemma 3 27B es un LLM open-weight de la familia Gemma, con 27B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: MacBook Pro 14 M3 Pro (18GB) (18 GB).

Ficha técnica
Parámetros27B
Contexto máximo128k
Q4_K_M17.0 GB
Q5_K_M20.7 GB
Q830.2 GB
FP1660.3 GB
FamiliaGemma
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
17.0GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
20.7GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
30.2GB

Calidad casi FP16. Cómodo para producción.

FP16
60.3GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar Gemma 3 27B en una sola tarjeta, ordenadas por margen de VRAM.

Rigs multi-GPU recomendados

Para Gemma 3 27B con quantization más alta o más contexto, un rig multi-GPU da más margen.

Rig recomendado

2× RTX 3080 10GB

Gemma 3 27B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12