Gemma2B params33k contexto

Gemma 3n E2B en local

Gemma 3n E2B es un LLM open-weight de la familia Gemma, con 2B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: GTX 1650 (4 GB).

Ficha técnica
Parámetros2B
Contexto máximo33k
Q4_K_M1.3 GB
Q5_K_M1.5 GB
Q82.2 GB
FP164.5 GB
FamiliaGemma
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
1.3GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
1.5GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
2.2GB

Calidad casi FP16. Cómodo para producción.

FP16
4.5GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar Gemma 3n E2B en una sola tarjeta, ordenadas por margen de VRAM.

Rigs multi-GPU recomendados

Para Gemma 3n E2B con quantization más alta o más contexto, un rig multi-GPU da más margen.

Rig recomendado

2× GTX 1650

Gemma 3n E2B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12