Nemotron3B paramspopular

Nemotron Labs Diffusion 3B Base en local

Nemotron Labs Diffusion 3B Base es un LLM open-weight de la familia Nemotron, con 3B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: GTX 1650 (4 GB).

Ficha técnica
Parámetros3B
Q4_K_M1.9 GB
Q5_K_M2.3 GB
Q83.4 GB
FP166.7 GB
FamiliaNemotron
Última sync2026-07-07

Quantizations disponibles

Q4_K_M
1.9GB

Aceptable. Buen compromiso si la VRAM es limitada.

Q5_K_M
2.3GB

Buena calidad. Punto dulce tamaño / precisión.

Q8
3.4GB

Calidad casi FP16. Cómodo para producción.

FP16
6.7GB

Precisión de referencia. Máxima calidad, más VRAM.

GPUs compatibles

GPUs capaces de ejecutar Nemotron Labs Diffusion 3B Base en una sola tarjeta, ordenadas por margen de VRAM.

Rigs multi-GPU recomendados

Para Nemotron Labs Diffusion 3B Base con quantization más alta o más contexto, un rig multi-GPU da más margen.

Rig recomendado

2× GTX 1650

Nemotron Labs Diffusion 3B Base with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configurar

Modelos similares

Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-07-07