Gemma26B params4B activos (MoE)128k contextopopular

Gemma 4 26B A4B en local

Gemma 4 26B A4B es un LLM open-weight de la familia Gemma, con 26B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: MacBook Pro 14 M3 Pro (18GB) (18 GB).

Ficha técnica
Parámetros26B
Contexto máximo128k
Q4_K_M16.3 GB
Q5_K_M20.0 GB
Q829.1 GB
FP1658.1 GB
FamiliaGemma
Última sync2026-05-12

Quantizations disponibles

Q4_K_M
16.3GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
20.0GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
29.1GB

Calidad casi FP16. Cómodo para producción.

FP16
58.1GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar Gemma 4 26B A4B en una sola tarjeta, ordenadas por margen de VRAM.

Rigs multi-GPU recomendados

Para Gemma 4 26B A4B con quantization más alta o más contexto, un rig multi-GPU da más margen.

Rig recomendado

2× RTX 3080 10GB

Gemma 4 26B A4B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12