DeepSeek236B params21B actief (MoE)128k context

DeepSeek V2 lokaal

DeepSeek V2 is een open-weight LLM uit de DeepSeek-familie met 236B parameters. Hoofdgebruik: chat, RAG and general assistance. Gedetecteerde minimumhardware: NVIDIA B100 (192 GB).

Technische info
Parameters236B
Max context128k
Q4_K_M148.4 GB
Q5_K_M181.3 GB
Q8263.8 GB
FP16527.5 GB
FamilieDeepSeek
Laatste sync2026-05-12

Beschikbare quantizations

Q4_K_M
148.4GB

Acceptabel. Goede keuze bij beperkte VRAM.

Q5_K_M
181.3GB

Goede kwaliteit. Sweet spot voor grootte en precisie.

Q8
263.8GB

Bijna FP16-kwaliteit. Comfortabel voor productie.

FP16
527.5GB

Referentieprecisie. Maximale kwaliteit, dubbele VRAM.

Compatibele GPUs

GPUs die DeepSeek V2 op één kaart kunnen draaien, gesorteerd op VRAM-marge.

Vergelijkbare modellen

VRAM-schatting: parameters x bits/8 plus marge. Echte prestaties hangen af van engine, context en batch.
sync: 2026-05-12