5 axes, 4 cas chiffrés, une matrice de décision. Sans vendre de fumée : à volume faible et sans contrainte RGPD, l'API cloud reste imbattable. À partir d'un certain seuil, le rig local devient évident — et le certain seuil est plus bas qu'on ne le croit.
| Axe | Cloud (API) | On-prem (LocalIA) |
|---|---|---|
| Coût marginal | Bas à volume faible GPT-4o mini à 0,14 €/Mtok input. Quasi-gratuit pour quelques milliers de requêtes/mois. | Bas à volume élevé Investissement initial 5–26 k€, puis ~50–200 €/mois d'électricité. Marginalement gratuit. |
| RGPD / souveraineté | Délicate Transit USA via OpenAI/Anthropic. Schrems II + AI Act exigent un encadrement strict, et certaines données sont juridiquement non-exportables. | Native Les données ne sortent jamais du LAN. Aucun transfert hors UE, aucun sous-traitant à auditer. Conforme par construction. |
| Latence (1ʳᵉ token) | 200–800 ms RTT internet + queue côté provider. Dépend de la charge globale du provider, pas de votre infra. | 50–200 ms Latence LAN + temps de génération. Stable, prévisible. Pas de dégradation aux heures de pointe. |
| Contrôle / disponibilité | Variable Rate limits, model deprecation, outages provider. Vous subissez les changements de prix et les EOL annoncés. | Total Vous choisissez le modèle, sa version, son arrêt. Pas de rate limit, pas de surprise tarifaire. |
| Customisation | Limitée Fine-tuning payant et restreint (sauf OpenAI). Pas d'accès aux poids. RAG via API uniquement. | Totale Fine-tuning libre, LoRA/QLoRA possible sur du matériel grand public. RAG sur données internes sans intermédiaire. |
Chiffres construits depuis les tarifs publics OpenAI / Anthropic 2026 + nos rigs sortie d'usine. Volumes typiques observés sur ces verticaux. Vérifiez votre cas exact sur le calculateur.
Service support / documentation interne
À ce volume, l'API mini suffit. Sauf si RGPD-sensible (données RH, santé, juridique), le cloud reste rationnel.
Génération de copy / brief / variations marketing
On-prem rentable très vite. Bonus : briefs et données client ne transitent plus chez OpenAI — argument commercial fort.
Recherche jurisprudence + analyse dossiers internes
Indispensable même hors coût. Données clients sous secret professionnel = pas de transit USA possible (art. 226-13 CP + RGPD).
Assistant interne multi-utilisateurs (200 employés)
Au-delà de ~3 000 req/jour, l'API devient un poste de coût ingérable. Le on-prem amortit en quelques mois et libère la dépendance fournisseur.
Depuis l'arrêt Schrems II (CJUE, 2020) et l'AI Act (entré en vigueur août 2024), envoyer des données personnelles vers OpenAI ou Anthropic implique un cadre contractuel lourd : Standard Contractual Clauses, Transfer Impact Assessment, analyse de risque ré-effectuée à chaque changement de sous-traitant.
Pour les données juridiquement non-exportables (secret professionnel des avocats art. 226-13 CP, données de santé HDS, secret médical, données défense), le recours à une API US n'est tout simplement pas conforme, même avec un encadrement contractuel.
L'IA locale règle ce dossier par construction : les données ne quittent pas le LAN, aucun sous-traitant à auditer, aucun transfert hors UE. Pour les organisations RGPD-sensibles, c'est le seul chemin viable à moyen terme.
Vous démarrez un projet, vous ne savez pas encore le volume final
API cloud (mini d'abord). Pivotez vers on-prem si vous franchissez ~500 €/mois en API.
Vous traitez données de santé, juridiques, RH, ou défense
On-prem dès le départ. Le coût de l'audit RGPD/AI Act dépasse vite le prix d'un rig.
Vous facturez > 3 000 €/mois en API depuis 3+ mois
On-prem. Break-even sous 12 mois quasi-garanti, prix verrouillé pour 3-5 ans.
Vous avez besoin de fine-tuning sur vos données métier
On-prem ou cloud spécialisé. L'API fine-tuning OpenAI marche mais coûte cher à l'inférence.
Vous voulez du multi-modèle (Llama + Qwen + Mistral en parallèle)
On-prem. L'API vous oblige à un fournisseur par modèle, gestion des clés multipliée.
Vous avez des pics imprévisibles ×100 du volume
API cloud (élasticité). Le on-prem est dimensionné pour un débit max fixe.
C'est en général la bonne réponse pour les structures > 50 employés. On-prem pour les workloads sensibles ou volumineux (RAG corporate, support interne), API pour les pics rares ou les modèles frontier (Claude Opus, GPT-4.5). Le `/calc` permet de chiffrer cette répartition.
Sur la majorité des tâches business (RAG, résumé, classification, génération de texte court), oui — Llama 3.3 70B, Qwen 2.5 72B et DeepSeek V3.2 sont à 90-95 % de GPT-4o. Sur le raisonnement complexe et le code long, GPT-4o garde une avance, mais Qwen 2.5 Coder 32B et DeepSeek R1 réduisent l'écart vite.
Sur les rigs Starter / Pro : 400-700 W en charge, 30-80 W au repos. Avec un usage business (8 h/jour, mix charge/idle), comptez 60-150 €/an d'électricité au tarif pro 2026 (0,18-0,22 €/kWh HTVA).
Probable. Mais les modèles open source progressent au même rythme, et la VRAM consumer aussi (la RTX 5090 à 32 Go était impensable il y a 2 ans). Le break-even calculé ci-dessus prend une marge sur 24 mois pour absorber ce risque. Au-delà, vous bénéficiez juste de modèles plus capables sur le même matériel.
C'est une vraie question pour un fournisseur solo. Réponse honnête : la stack (Ollama, vLLM, OpenWebUI, Qdrant, Llama/Qwen) est 100 % open source et documentée par une communauté massive. Un sysadmin Linux peut reprendre la main en quelques heures. Le contrat de support LocalIA n'a aucune dépendance propriétaire.
Sur on-prem : vous téléchargez les nouveaux poids, vous redémarrez le serveur. C'est gratuit. Sur API : vous attendez que le provider l'ajoute (souvent 2-6 mois après la release open source), à un nouveau prix.
Pour de l'inférence (faire tourner des LLMs déjà entraînés), une RTX 5090 reste utile 5-7 ans. La VRAM est le facteur limitant, pas la puissance de calcul. À l'inverse, un H100 acheté en 2024 est encore le standard en datacenter en 2026.
Trois portes d'entrée selon votre profil. Aucune ne déclenche d'appel commercial automatique — tout reste inbound, formulaire ou email.
201 GPUs × 242 modèles. Sortie : VRAM, tok/s, €/Mtok, break-even vs l'API que vous utilisez.
30 secondes. On vous dit Starter, Pro ou Entreprise selon votre usage et vos contraintes RGPD.
Formulaire 6 champs. Réponse sous 24-48 h, par email. Pas de prospection téléphonique, jamais.