Gemma2B params8k Kontext

CodeGemma 2B lokal

CodeGemma 2B ist ein Open-Weight-LLM aus der Familie Gemma mit 2B Parametern. Haupteinsatz: code and developer agents. Erkannte Mindesthardware: GTX 1650 (4 GB).

Technische Daten
Parameter2B
Max. Kontext8k
Q4_K_M1.3 GB
Q5_K_M1.5 GB
Q82.2 GB
FP164.5 GB
FamilieGemma
Letzter Sync2026-05-12

Verfügbare Quantizations

Q4_K_M
1.3GB

Akzeptabel. Guter Kompromiss bei knapper VRAM.

Q5_K_M
1.5GB

Gute Qualität. Sweet Spot aus Größe und Präzision.

Q8
2.2GB

Fast FP16-Qualität. Produktionstauglich.

FP16
4.5GB

Referenzpräzision. Maximale Qualität, doppelte VRAM.

Kompatible GPUs

GPUs, die CodeGemma 2B auf einer einzelnen Karte ausführen können, nach VRAM-Spielraum sortiert.

Empfohlene Multi-GPU-Rigs

Für CodeGemma 2B mit höherer Quantization oder mehr Kontext bietet ein Multi-GPU-Rig mehr Spielraum.

Empfohlener Rig

2× GTX 1650

CodeGemma 2B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Konfigurieren

Ähnliche Modelle

VRAM-Schätzung: Parameter x bits/8 plus Reserve. Reale Leistung hängt von Engine, Kontext und Batch ab.
sync: 2026-05-12