Qwen1.5B paramspopolare

DeepSeek R1 Distill Qwen 1.5B in locale

DeepSeek R1 Distill Qwen 1.5B è un LLM open-weight della famiglia Qwen, con 1.5B parametri. Uso principale: reasoning and problem solving. Hardware minimo rilevato: GTX 1650 (4 GB).

Scheda tecnica
Parametri1.5B
Q4_K_M0.9 GB
Q5_K_M1.2 GB
Q81.7 GB
FP163.4 GB
FamigliaQwen
Ultima sync2026-05-12

Quantization disponibili

Q4_K_M
0.9GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
1.2GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
1.7GB

Qualità quasi FP16. Comoda in produzione.

FP16
3.4GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire DeepSeek R1 Distill Qwen 1.5B su una sola scheda, ordinate per margine VRAM.

Rig multi-GPU consigliati

Per DeepSeek R1 Distill Qwen 1.5B con quantization più alta o più contesto, un rig multi-GPU offre più margine.

Rig consigliato

2× GTX 1650

DeepSeek R1 Distill Qwen 1.5B with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-05-12