Qwen14B paramspopolare

Qwen2.5 Coder 14B Instruct in locale

Qwen2.5 Coder 14B Instruct è un LLM open-weight della famiglia Qwen, con 14B parametri. Uso principale: code and developer agents. Hardware minimo rilevato: RTX 3080 10GB (10 GB).

Scheda tecnica
Parametri14B
Q4_K_M8.8 GB
Q5_K_M10.8 GB
Q815.6 GB
FP1631.3 GB
FamigliaQwen
Ultima sync2026-05-12

Quantization disponibili

Q4_K_M
8.8GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
10.8GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
15.6GB

Qualità quasi FP16. Comoda in produzione.

FP16
31.3GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire Qwen2.5 Coder 14B Instruct su una sola scheda, ordinate per margine VRAM.

Rig multi-GPU consigliati

Per Qwen2.5 Coder 14B Instruct con quantization più alta o più contesto, un rig multi-GPU offre più margine.

Rig consigliato

2× GTX 1060 6GB

Qwen2.5 Coder 14B Instruct with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-05-12