DeepSeek6.7B paramspopolare

deepseek coder 6.7b instruct in locale

deepseek coder 6.7b instruct è un LLM open-weight della famiglia DeepSeek, con 6.7B parametri. Uso principale: code and developer agents. Hardware minimo rilevato: GTX 1060 6GB (6 GB).

Scheda tecnica
Parametri6.7B
Q4_K_M4.2 GB
Q5_K_M5.1 GB
Q87.5 GB
FP1615.0 GB
FamigliaDeepSeek
Ultima sync2026-06-23

Quantization disponibili

Q4_K_M
4.2GB

Accettabile. Buon compromesso con VRAM limitata.

Q5_K_M
5.1GB

Buona qualità. Punto dolce tra dimensione e precisione.

Q8
7.5GB

Qualità quasi FP16. Comoda in produzione.

FP16
15.0GB

Precisione di riferimento. Qualità massima, più VRAM.

GPU compatibili

GPU capaci di eseguire deepseek coder 6.7b instruct su una sola scheda, ordinate per margine VRAM.

Rig multi-GPU consigliati

Per deepseek coder 6.7b instruct con quantization più alta o più contesto, un rig multi-GPU offre più margine.

Rig consigliato

2× GTX 1650

deepseek coder 6.7b instruct with Ubuntu, vLLM, Open WebUI and the model already downloaded.

Configura

Modelli simili

Stime VRAM: parametri x bits/8 più margine. Prestazioni reali secondo engine, contesto e batch.
sync: 2026-06-23