SmolLM3B paramspopular

SmolLM3 3B en local

SmolLM3 3B es un LLM open-weight de la familia SmolLM, con 3B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: GTX 1650 (4 GB).

Ficha técnica
Parámetros3B
Q4_K_M1.9 GB
Q5_K_M2.3 GB
Q83.4 GB
FP166.7 GB
FamiliaSmolLM
Última sync2026-06-23

Quantizations disponibles

Q4_K_M
1.9GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
2.3GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
3.4GB

Calidad casi FP16. Cómodo para producción.

FP16
6.7GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar SmolLM3 3B en una sola tarjeta, ordenadas por margen de VRAM.

Rigs multi-GPU recomendados

Para SmolLM3 3B con quantization más alta o más contexto, un rig multi-GPU da más margen.

Rig recomendado

2× GTX 1650

SmolLM3 3B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-06-23