NVIDIA Nemotron 3 Super 120B A12B BF16 en local
NVIDIA Nemotron 3 Super 120B A12B BF16 es un LLM open-weight de la familia Nemotron, con 120B parámetros. Uso principal: chat, RAG and general assistance. Hardware mínimo detectado: NVIDIA A100 80GB (80 GB).
Quantizations disponibles
pesos GGUFAceptable. Buen compromiso si la VRAM es limitada.
Buena calidad. Punto dulce tamaño / precisión.
Calidad casi FP16. Cómodo para producción.
Precisión de referencia. Máxima calidad, más VRAM.
GPUs compatibles
12 single-GPUGPUs capaces de ejecutar NVIDIA Nemotron 3 Super 120B A12B BF16 en una sola tarjeta, ordenadas por margen de VRAM.
Rigs multi-GPU recomendados
2x / 4x consumer GPUsPara NVIDIA Nemotron 3 Super 120B A12B BF16 con quantization más alta o más contexto, un rig multi-GPU da más margen.
Rig recomendado
NVIDIA Nemotron 3 Super 120B A12B BF16 with Ubuntu, vLLM, Open WebUI and the model already downloaded.
Modelos similares
Estimaciones VRAM: parámetros x bits/8 más margen. El rendimiento real varía según motor, contexto y batch.
sync: 2026-05-12