SmolLM1.7B paramspopolare

SmolLM2 1.7B in locale

SmolLM2 1.7B è un LLM open-weight della famiglia SmolLM, con 1.7B parametri. Uso principale: chat, RAG and general assistance. Hardware minimo rilevato: GTX 1650 (4 GB).

Scheda tecnica
Parametri1.7B
Q4_K_M1.1 GB
Q5_K_M1.3 GB
Q81.9 GB
FP163.8 GB
FamigliaSmolLM
Ultima sync2026-09-02

Quantization disponibili

Q4_K_M
1.1GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
1.3GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
1.9GB

Qualità quasi FP16. Comoda in produzione.

FP16
3.8GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire SmolLM2 1.7B su una sola scheda, ordinate per margine VRAM.

Rig multi-GPU consigliati

Per SmolLM2 1.7B con quantization più alta o più contesto, un rig multi-GPU offre più margine.

Rig consigliato

2× GTX 1650

SmolLM2 1.7B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-09-02