Phi · 3.8B
Phi-3.5 Mini 3.8B
- Total paramètres3.8B
- Contexte max128k tokens
- FamillePhi
- TypeDense
face-à-face · LLM local
Phi-3.5 Mini 3.8B vs QwQ 32B
Comparatif chiffré : VRAM requise par quantization, GPUs compatibles pour faire tourner chacun en local, et verdict construit depuis les specs réelles. Pas de bench truqué, juste les chiffres.
3.8B
params Phi-3.5 Mini 3.8B
32B
params QwQ 32B
Phi
famille A
QwQ
famille B
▲ Specs côte à côte
Les chiffres bruts.
QwQ · 32B
QwQ 32B
- Total paramètres32B
- Contexte max33k tokens
- FamilleQwQ
- TypeDense
▲ VRAM par quantization
Combien de VRAM il te faut.
Estimation incluant l'overhead (KV cache + activations) ×1.12. Pour un MoE, on prend les paramètres totaux car le modèle complet doit être chargé en mémoire (les experts inactifs aussi).
| Quant | Phi-3.5 Mini 3.8B | QwQ 32B | Écart |
|---|---|---|---|
| Q3 | 1.9 GB | 15.7 GB | 13.8 GB |
| Q4 | 2.4 GB | 20.2 GB | 17.8 GB |
| Q5 | 2.9 GB | 24.6 GB | 21.7 GB |
| Q6 | 3.5 GB | 29.1 GB | 25.6 GB |
| Q8 | 4.3 GB | 35.8 GB | 31.5 GB |
| FP16 | 8.5 GB | 71.7 GB | 63.2 GB |
▲ GPU minimum pour chacun en Q4
Quel GPU suffit pour quoi.
Pour Phi-3.5 Mini 3.8B en Q4
GTX 1650
4 GB de VRAM — suffisant pour les 2.4 GB requis en Q4.
→ Fiche GTX 1650Pour QwQ 32B en Q4
TITAN RTX
24 GB de VRAM — suffisant pour les 20.2 GB requis en Q4.
→ Fiche TITAN RTX▲ Verdict
Ce que les chiffres disent.
QwQ 32B est 8.4× plus gros que Phi-3.5 Mini 3.8B — plus de connaissances, mais 20 GB de VRAM contre 2 GB.
Choisir Phi-3.5 Mini 3.8B
Tu manques de VRAM, tu veux du débit token/s, ou tu déploies sur edge (laptop, mini-PC).
→ Fiche Phi-3.5 Mini 3.8BChoisir QwQ 32B
Tu privilégies la qualité de raisonnement, tu as une grosse VRAM (48 GB+), tu acceptes un débit plus faible.
→ Fiche QwQ 32BTester avec ton GPU ?
Le calculateur croise ces 2 modèles avec 200+ GPUs et te donne tok/s estimés, €/Mtok et break-even cloud.