DeepSeek16B params2.4B attivi (MoE)128k contesto

DeepSeek Coder V2 Lite in locale

DeepSeek Coder V2 Lite è un LLM open-weight della famiglia DeepSeek, con 16B parametri. Uso principale: code and developer agents. Hardware minimo rilevato: GTX 1080 Ti (11 GB).

Scheda tecnica
Parametri16B
Contesto massimo128k
Q4_K_M10.1 GB
Q5_K_M12.3 GB
Q817.9 GB
FP1635.8 GB
FamigliaDeepSeek
Ultima sync2026-05-12

Quantization disponibili

Q4_K_M
10.1GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
12.3GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
17.9GB

Qualità quasi FP16. Comoda in produzione.

FP16
35.8GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire DeepSeek Coder V2 Lite su una sola scheda, ordinate per margine VRAM.

Rig multi-GPU consigliati

Per DeepSeek Coder V2 Lite con quantization più alta o più contesto, un rig multi-GPU offre più margine.

Rig consigliato

2× GTX 1060 6GB

DeepSeek Coder V2 Lite with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-05-12