Configura un rig →
NVIDIADatacenterAmpere DC

NVIDIA A100 40GB per IA locale

NVIDIA A100 40GB offre 40 GB di VRAM per IA locale. Nel catalogo LocalIA, 208 modelli su 242 girano comodamente su una sola scheda.

Vedi modelli compatibili →Rig con 40GB ↗
VRAM
40GB
Categoria
Datacenter
Serie
Ampere DC
Vendor
NVIDIA

Modelli che girano comodamente

Questi modelli entrano in 40 GB con margine per contesto e inferenza stabile.

★Mixtral 8x7Bmistral29.5 GBcomodoQ4 · / 40 GB
Falcon 40Bfalcon30.7 GBcomodoQ5 · / 40 GB
Command R 35Bcommand26.9 GBcomodoQ5 · / 40 GB
Aya 23 35Baya26.9 GBcomodoQ5 · / 40 GB
CodeLlama 34Bcodellama26.1 GBcomodoQ5 · / 40 GB
Yi 1.5 34Byi26.1 GBcomodoQ5 · / 40 GB
★dolphin 2.9.1 yi 1.5 34byi26.1 GBcomodoQ5 · / 40 GB
★Qwen 2.5 32Bqwen24.6 GBcomodoQ5 · / 40 GB
★Qwen 2.5 Coder 32Bqwen24.6 GBcomodoQ5 · / 40 GB
★Qwen 3 32Bqwen24.6 GBcomodoQ5 · / 40 GB
★QwQ 32Bqwq24.6 GBcomodoQ5 · / 40 GB
★DeepSeek R1 Distill 32Bdeepseek24.6 GBcomodoQ5 · / 40 GB
Qwen 2.5 VL 32Bqwen24.6 GBcomodoQ5 · / 40 GB
★Granite 4 H-Small 32B-A9Bgranite24.6 GBcomodoQ5 · / 40 GB
GLM-4.6glm24.6 GBcomodoQ5 · / 40 GB
★GLM-4.7glm24.6 GBcomodoQ5 · / 40 GB
★GLM-5glm24.6 GBcomodoQ5 · / 40 GB
★GLM-5.1glm24.6 GBcomodoQ5 · / 40 GB
★Qwen3 32Bqwen24.6 GBcomodoQ5 · / 40 GB
★Qwen2.5 Coder 32B Instructqwen24.6 GBcomodoQ5 · / 40 GB
★DeepSeek R1 Distill Qwen 32Bqwen24.6 GBcomodoQ5 · / 40 GB
★Qwen2.5 32B Instructqwen24.6 GBcomodoQ5 · / 40 GB
★Gemma 4 31Bgemma23.8 GBcomodoQ5 · / 40 GB
★Qwen 3 30B A3Bqwen33.5 GBcomodoQ8 · / 40 GB
MPT 30Bmpt33.5 GBcomodoQ8 · / 40 GB
★Qwen3 Coder 30B A3B Instructqwen33.5 GBcomodoQ8 · / 40 GB
★Qwen3 30B A3Bqwen33.5 GBcomodoQ8 · / 40 GB
★Qwen3 30B A3B Instruct 2507qwen33.5 GBcomodoQ8 · / 40 GB
★NVIDIA Nemotron 3 Nano 30B A3B BF16nemotron33.5 GBcomodoQ8 · / 40 GB
★Gemma 2 27Bgemma30.2 GBcomodoQ8 · / 40 GB

Sbloccati in rig 2x

Con due schede in parallelo (80 GB totali), modelli più grandi diventano accessibili.

★Mistral Large 123Bmistral77.3 GBstrettoQ4 · / 80 GB
★NVIDIA Nemotron 3 Super 120B A12B BF16nemotron75.4 GBstrettoQ4 · / 80 GB
★Llama 4 Scout 17Bx16llama68.5 GBstrettoQ4 · / 80 GB
★Command R+ 104Bcommand65.4 GBcomodoQ4 · / 80 GB
★Qwen3 Next 80B A3B Instructqwen61.5 GBcomodoQ5 · / 80 GB
★Qwen 2.5 72Bqwen55.3 GBcomodoQ5 · / 80 GB
Qwen 2.5 VL 72Bqwen55.3 GBcomodoQ5 · / 80 GB
★Qwen2.5 72B Instructqwen55.3 GBcomodoQ5 · / 80 GB
Llama 2 70Bllama53.8 GBcomodoQ5 · / 80 GB
Llama 3 70Bllama53.8 GBcomodoQ5 · / 80 GB
Llama 3.1 70Bllama53.8 GBcomodoQ5 · / 80 GB
★Llama 3.3 70Bllama53.8 GBcomodoQ5 · / 80 GB
CodeLlama 70Bcodellama53.8 GBcomodoQ5 · / 80 GB
★DeepSeek R1 Distill 70Bdeepseek53.8 GBcomodoQ5 · / 80 GB
Hermes 3 70Bhermes53.8 GBcomodoQ5 · / 80 GB

Sbloccati in rig 4x

Configurazione server (160 GB totali) per i modelli open-weight più grandi.

DeepSeek V2deepseek148.4 GBstrettoQ4 · / 160 GB
DeepSeek Coder V2deepseek148.4 GBstrettoQ4 · / 160 GB
★Qwen 3 235B A22Bqwen147.7 GBstrettoQ4 · / 160 GB
★Qwen3 235B A22Bqwen147.7 GBstrettoQ4 · / 160 GB
Falcon 180Bfalcon113.2 GBcomodoQ4 · / 160 GB
Mixtral 8x22Bmistral108.3 GBcomodoQ5 · / 160 GB

GPU simili

Stime VRAM aggiornate 2026-05-12.