Configura un rig →
Mistral47B params13B attivi (MoE)33k contestopopolare

Mixtral 8x7B in locale

Mixtral 8x7B è un LLM open-weight della famiglia Mistral, con 47B parametri. Uso principale: chat, RAG and general assistance. Hardware minimo rilevato: RTX 5090 (32 GB).

Verifica sulla mia GPU →Hugging Face ↗
Scheda tecnica
Parametri47B
Contesto massimo33k
Q4_K_M29.5 GB
Q5_K_M36.1 GB
Q852.5 GB
FP16105.1 GB
FamigliaMistral
Ultima sync2026-05-12

Quantization disponibili

Q4_K_M
29.5GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
36.1GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
52.5GB

Qualità quasi FP16. Comoda in produzione.

FP16
105.1GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire Mixtral 8x7B su una sola scheda, ordinate per margine VRAM.

RTX 5090
NVIDIA
32 GB · RTX 50
29.5 / 32 GBstretto · Q4
RTX 5000 Ada
NVIDIA
32 GB · RTX Ada
29.5 / 32 GBstretto · Q4
Radeon Pro W6800
AMD
32 GB · Radeon Pro W
29.5 / 32 GBstretto · Q4
Radeon Pro W7800
AMD
32 GB · Radeon Pro W
29.5 / 32 GBstretto · Q4
Instinct MI100
AMD
32 GB · Instinct CDNA 1-2
29.5 / 32 GBstretto · Q4
Mac Mini M2 Pro (32GB)
Apple
32 GB · Mac Mini
29.5 / 32 GBstretto · Q4
Mac Mini M4 (32GB)
Apple
32 GB · Mac Mini
29.5 / 32 GBstretto · Q4
MacBook Air M4 (32GB)
Apple
32 GB · MacBook Air
29.5 / 32 GBstretto · Q4
MacBook Pro 14 M1 Pro (32GB)
Apple
32 GB · MacBook Pro 14
29.5 / 32 GBstretto · Q4
MacBook Pro 14 M1 Max (32GB)
Apple
32 GB · MacBook Pro 14
29.5 / 32 GBstretto · Q4
MacBook Pro 14 M2 Pro (32GB)
Apple
32 GB · MacBook Pro 14
29.5 / 32 GBstretto · Q4
MacBook Pro 14 M2 Max (32GB)
Apple
32 GB · MacBook Pro 14
29.5 / 32 GBstretto · Q4

Rig multi-GPU consigliati

Per Mixtral 8x7B con quantization più alta o più contesto, un rig multi-GPU offre più margine.

4× GTX 1070
NVIDIA
32 GB · GTX 10
29.5 / 32 GBstretto · Q4
4× GTX 1070 Ti
NVIDIA
32 GB · GTX 10
29.5 / 32 GBstretto · Q4
4× GTX 1080
NVIDIA
32 GB · GTX 10
29.5 / 32 GBstretto · Q4
4× RTX 2060 Super
NVIDIA
32 GB · RTX 20
29.5 / 32 GBstretto · Q4
4× RTX 2070
NVIDIA
32 GB · RTX 20
29.5 / 32 GBstretto · Q4
4× RTX 2070 Super
NVIDIA
32 GB · RTX 20
29.5 / 32 GBstretto · Q4
4× RTX 2080
NVIDIA
32 GB · RTX 20
29.5 / 32 GBstretto · Q4
4× RTX 2080 Super
NVIDIA
32 GB · RTX 20
29.5 / 32 GBstretto · Q4

Rig consigliato

4× GTX 1070

Mixtral 8x7B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura →

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-05-12