Phi · 3.8B
Phi-3.5 Mini 3.8B
- Total paramètres3.8B
- Contexte max128k tokens
- FamillePhi
- TypeDense
face-à-face · LLM local
Phi-3.5 Mini 3.8B vs Qwen 2.5 72B
Comparatif chiffré : VRAM requise par quantization, GPUs compatibles pour faire tourner chacun en local, et verdict construit depuis les specs réelles. Pas de bench truqué, juste les chiffres.
3.8B
params Phi-3.5 Mini 3.8B
72B
params Qwen 2.5 72B
Phi
famille A
Qwen
famille B
▲ Specs côte à côte
Les chiffres bruts.
Qwen · 72B
Qwen 2.5 72B
- Total paramètres72B
- Contexte max128k tokens
- FamilleQwen
- TypeDense
▲ VRAM par quantization
Combien de VRAM il te faut.
Estimation incluant l'overhead (KV cache + activations) ×1.12. Pour un MoE, on prend les paramètres totaux car le modèle complet doit être chargé en mémoire (les experts inactifs aussi).
| Quant | Phi-3.5 Mini 3.8B | Qwen 2.5 72B | Écart |
|---|---|---|---|
| Q3 | 1.9 GB | 35.3 GB | 33.4 GB |
| Q4 | 2.4 GB | 45.4 GB | 43.0 GB |
| Q5 | 2.9 GB | 55.4 GB | 52.5 GB |
| Q6 | 3.5 GB | 65.5 GB | 62.0 GB |
| Q8 | 4.3 GB | 80.6 GB | 76.3 GB |
| FP16 | 8.5 GB | 161.3 GB | 152.8 GB |
▲ GPU minimum pour chacun en Q4
Quel GPU suffit pour quoi.
Pour Phi-3.5 Mini 3.8B en Q4
GTX 1650
4 GB de VRAM — suffisant pour les 2.4 GB requis en Q4.
→ Fiche GTX 1650Pour Qwen 2.5 72B en Q4
Quadro RTX 8000
48 GB de VRAM — suffisant pour les 45.4 GB requis en Q4.
→ Fiche Quadro RTX 8000▲ Verdict
Ce que les chiffres disent.
Qwen 2.5 72B est 18.9× plus gros que Phi-3.5 Mini 3.8B — plus de connaissances, mais 45 GB de VRAM contre 2 GB.
Choisir Phi-3.5 Mini 3.8B
Tu manques de VRAM, tu veux du débit token/s, ou tu déploies sur edge (laptop, mini-PC).
→ Fiche Phi-3.5 Mini 3.8BChoisir Qwen 2.5 72B
Tu privilégies la qualité de raisonnement, tu as une grosse VRAM (48 GB+), tu acceptes un débit plus faible.
→ Fiche Qwen 2.5 72BTester avec ton GPU ?
Le calculateur croise ces 2 modèles avec 200+ GPUs et te donne tok/s estimés, €/Mtok et break-even cloud.