SmolLM1.7B paramspopular

SmolLM2 1.7B en local

SmolLM2 1.7B es un LLM open-weight de la familia SmolLM, con 1.7B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: GTX 1650 (4 GB).

Ficha técnica
Parámetros1.7B
Q4_K_M1.1 GB
Q5_K_M1.3 GB
Q81.9 GB
FP163.8 GB
FamiliaSmolLM
Última sync2026-09-02

Quantizations disponibles

Q4_K_M
1.1GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
1.3GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
1.9GB

Calidad casi FP16. Cómodo para producción.

FP16
3.8GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar SmolLM2 1.7B en una sola tarjeta, ordenadas por margen de VRAM.

Rigs multi-GPU recomendados

Para SmolLM2 1.7B con quantization más alta o más contexto, un rig multi-GPU da más margen.

Rig recomendado

2× GTX 1650

SmolLM2 1.7B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-09-02