NVIDIA Nemotron 3 Super 120B A12B BF16 lokaal
NVIDIA Nemotron 3 Super 120B A12B BF16 is een open-weight LLM uit de Nemotron-familie met 120B parameters. Hoofdgebruik: chat, RAG and general assistance. Gedetecteerde minimumhardware: NVIDIA A100 80GB (80 GB).
Beschikbare quantizations
GGUF-gewichtenAcceptabel. Goede keuze bij beperkte VRAM.
Goede kwaliteit. Sweet spot voor grootte en precisie.
Bijna FP16-kwaliteit. Comfortabel voor productie.
Referentieprecisie. Maximale kwaliteit, dubbele VRAM.
Compatibele GPUs
12 single-GPUGPUs die NVIDIA Nemotron 3 Super 120B A12B BF16 op één kaart kunnen draaien, gesorteerd op VRAM-marge.
Aanbevolen multi-GPU rigs
2x / 4x consumer GPUsVoor NVIDIA Nemotron 3 Super 120B A12B BF16 met hogere quantization of meer context geeft een multi-GPU rig meer marge.
Aanbevolen rig
NVIDIA Nemotron 3 Super 120B A12B BF16 with Ubuntu, vLLM, Open WebUI and the model already downloaded.
Vergelijkbare modellen
VRAM-schatting: parameters x bits/8 plus marge. Echte prestaties hangen af van engine, context en batch.
sync: 2026-05-12