Configura un rig →
AMDDatacenterInstinct CDNA 3+

Instinct MI325X per IA locale

Instinct MI325X offre 256 GB di VRAM per IA locale. Nel catalogo LocalIA, 234 modelli su 242 girano comodamente su una sola scheda.

Vedi modelli compatibili →Rig con MI325X ↗
VRAM
256GB
Categoria
Datacenter
Serie
Instinct CDNA 3+
Vendor
AMD

Modelli che girano comodamente

Questi modelli entrano in 256 GB con margine per contesto e inferenza stabile.

Nemotron 340Bnemotron213.7 GBcomodoQ4 · / 256 GB
DeepSeek V2deepseek181.3 GBcomodoQ5 · / 256 GB
DeepSeek Coder V2deepseek181.3 GBcomodoQ5 · / 256 GB
★Qwen 3 235B A22Bqwen180.6 GBcomodoQ5 · / 256 GB
★Qwen3 235B A22Bqwen180.6 GBcomodoQ5 · / 256 GB
Falcon 180Bfalcon201.2 GBcomodoQ8 · / 256 GB
Mixtral 8x22Bmistral157.6 GBcomodoQ8 · / 256 GB
★Mistral Large 123Bmistral137.5 GBcomodoQ8 · / 256 GB
★NVIDIA Nemotron 3 Super 120B A12B BF16nemotron134.1 GBcomodoQ8 · / 256 GB
★Llama 4 Scout 17Bx16llama121.8 GBcomodoQ8 · / 256 GB
★Command R+ 104Bcommand116.2 GBcomodoQ8 · / 256 GB
★Qwen3 Next 80B A3B Instructqwen178.8 GBcomodoFP16 · / 256 GB
★Qwen 2.5 72Bqwen160.9 GBcomodoFP16 · / 256 GB
Qwen 2.5 VL 72Bqwen160.9 GBcomodoFP16 · / 256 GB
★Qwen2.5 72B Instructqwen160.9 GBcomodoFP16 · / 256 GB
Llama 2 70Bllama156.5 GBcomodoFP16 · / 256 GB
Llama 3 70Bllama156.5 GBcomodoFP16 · / 256 GB
Llama 3.1 70Bllama156.5 GBcomodoFP16 · / 256 GB
★Llama 3.3 70Bllama156.5 GBcomodoFP16 · / 256 GB
CodeLlama 70Bcodellama156.5 GBcomodoFP16 · / 256 GB
★DeepSeek R1 Distill 70Bdeepseek156.5 GBcomodoFP16 · / 256 GB
Hermes 3 70Bhermes156.5 GBcomodoFP16 · / 256 GB
★Llama 3.1 Nemotron 70Bnemotron156.5 GBcomodoFP16 · / 256 GB
Athene 70Bathene156.5 GBcomodoFP16 · / 256 GB
★Llama 3.3 70B Instructllama156.5 GBcomodoFP16 · / 256 GB
★Llama 3.1 70B Instructllama156.5 GBcomodoFP16 · / 256 GB
★Mixtral 8x7Bmistral105.1 GBcomodoFP16 · / 256 GB
Falcon 40Bfalcon89.4 GBcomodoFP16 · / 256 GB
Command R 35Bcommand78.2 GBcomodoFP16 · / 256 GB
Aya 23 35Baya78.2 GBcomodoFP16 · / 256 GB

Modelli stretti

Questi modelli entrano appena. Possono girare, ma contesto e velocità saranno limitati.

★Llama 3.1 405Bllama254.6 GBstrettoQ4 · / 256 GB
Hermes 3 405Bhermes254.6 GBstrettoQ4 · / 256 GB
★Llama 4 Maverick 17Bx128llama251.5 GBstrettoQ4 · / 256 GB

Sbloccati in rig 2x

Con due schede in parallelo (512 GB totali), modelli più grandi diventano accessibili.

★DeepSeek V3.2deepseek430.6 GBcomodoQ4 · / 512 GB
★DeepSeek V4 Prodeepseek430.6 GBcomodoQ4 · / 512 GB
★DeepSeek R1deepseek421.8 GBcomodoQ4 · / 512 GB
★DeepSeek V3deepseek421.8 GBcomodoQ4 · / 512 GB
★DeepSeek R1 (0528 snapshot)deepseek421.8 GBcomodoQ4 · / 512 GB

GPU simili

Stime VRAM aggiornate 2026-05-12.