Configura un rig →
Qwen72B params128k contestopopolare

Qwen 2.5 72B in locale

Qwen 2.5 72B è un LLM open-weight della famiglia Qwen, con 72B parametri. Uso principale: chat, RAG and general assistance. Hardware minimo rilevato: Quadro RTX 8000 (48 GB).

Verifica sulla mia GPU →Hugging Face ↗
Scheda tecnica
Parametri72B
Contesto massimo128k
Q4_K_M45.3 GB
Q5_K_M55.3 GB
Q880.5 GB
FP16160.9 GB
FamigliaQwen
Ultima sync2026-05-12

Quantization disponibili

Q4_K_M
45.3GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
55.3GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
80.5GB

Qualità quasi FP16. Comoda in produzione.

FP16
160.9GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire Qwen 2.5 72B su una sola scheda, ordinate per margine VRAM.

Quadro RTX 8000
NVIDIA
48 GB · Quadro RTX
45.3 / 48 GBstretto · Q4
RTX A6000
NVIDIA
48 GB · RTX A (Ampere)
45.3 / 48 GBstretto · Q4
RTX 6000 Ada
NVIDIA
48 GB · RTX Ada
45.3 / 48 GBstretto · Q4
NVIDIA A40
NVIDIA
48 GB · Ampere DC
45.3 / 48 GBstretto · Q4
NVIDIA L40
NVIDIA
48 GB · Lovelace DC
45.3 / 48 GBstretto · Q4
NVIDIA L40S
NVIDIA
48 GB · Lovelace DC
45.3 / 48 GBstretto · Q4
Radeon Pro W7900
AMD
48 GB · Radeon Pro W
45.3 / 48 GBstretto · Q4
Mac Mini M4 Pro (48GB)
Apple
48 GB · Mac Mini
45.3 / 48 GBstretto · Q4
MacBook Pro 14 M4 Pro (48GB)
Apple
48 GB · MacBook Pro 14
45.3 / 48 GBstretto · Q4
MacBook Pro 14 M4 Max (48GB)
Apple
48 GB · MacBook Pro 14
45.3 / 48 GBstretto · Q4
MacBook Pro 16 M3 Max (48GB)
Apple
48 GB · MacBook Pro 16
45.3 / 48 GBstretto · Q4
MacBook Pro 16 M4 Pro (48GB)
Apple
48 GB · MacBook Pro 16
45.3 / 48 GBstretto · Q4

Rig multi-GPU consigliati

Per Qwen 2.5 72B con quantization più alta o più contesto, un rig multi-GPU offre più margine.

4× RTX 2060 12GB
NVIDIA
48 GB · RTX 20
45.3 / 48 GBstretto · Q4
2× TITAN RTX
NVIDIA
48 GB · RTX 20
45.3 / 48 GBstretto · Q4
4× RTX 3060 12GB
NVIDIA
48 GB · RTX 30
45.3 / 48 GBstretto · Q4
4× RTX 3080 12GB
NVIDIA
48 GB · RTX 30
45.3 / 48 GBstretto · Q4
4× RTX 3080 Ti
NVIDIA
48 GB · RTX 30
45.3 / 48 GBstretto · Q4
2× RTX 3090
NVIDIA
48 GB · RTX 30
45.3 / 48 GBstretto · Q4
2× RTX 3090 Ti
NVIDIA
48 GB · RTX 30
45.3 / 48 GBstretto · Q4
4× RTX 4070
NVIDIA
48 GB · RTX 40
45.3 / 48 GBstretto · Q4

Rig consigliato

4× RTX 2060 12GB

Qwen 2.5 72B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura →

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-05-12