Gemma2B params128k Kontextbeliebt

Gemma 4 E2B (Efficient) lokal

Gemma 4 E2B (Efficient) ist ein Open-Weight-LLM aus der Familie Gemma mit 2B Parametern. Haupteinsatz: chat, RAG and general assistance. Erkannte Mindesthardware: GTX 1650 (4 GB).

Technische Daten
Parameter2B
Max. Kontext128k
Q4_K_M1.3 GB
Q5_K_M1.5 GB
Q82.2 GB
FP164.5 GB
FamilieGemma
Letzter Sync2026-05-12

Verfügbare Quantizations

Q4_K_M
1.3GB

Akzeptabel. Guter Kompromiss bei knapper VRAM.

Q5_K_M
1.5GB

Gute Qualität. Sweet Spot aus Größe und Präzision.

Q8
2.2GB

Fast FP16-Qualität. Produktionstauglich.

FP16
4.5GB

Referenzpräzision. Maximale Qualität, doppelte VRAM.

Kompatible GPUs

GPUs, die Gemma 4 E2B (Efficient) auf einer einzelnen Karte ausführen können, nach VRAM-Spielraum sortiert.

Empfohlene Multi-GPU-Rigs

Für Gemma 4 E2B (Efficient) mit höherer Quantization oder mehr Kontext bietet ein Multi-GPU-Rig mehr Spielraum.

Empfohlener Rig

2× GTX 1650

Gemma 4 E2B (Efficient) with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Konfigurieren

Ähnliche Modelle

VRAM-Schätzung: Parameter x bits/8 plus Reserve. Reale Leistung hängt von Engine, Kontext und Batch ab.
sync: 2026-05-12