Lab IA · Outil gratuit
Calculateur de matériel pour IA locale : quelle machine pour quel modèle ?
Choisissez un modèle ouvert (Qwen, Gemma 4, Llama, gpt-oss, Mistral, DeepSeek), une quantification et une longueur de contexte : l'outil calcule la mémoire nécessaire, dit quelles machines suffisent et estime la vitesse.
🔒 Tout est calculé dans votre navigateur : rien n'est envoyé ni enregistré sur un serveur.
1. Le modèle
Sans architecture connue, le cache KV est estimé prudemment (8 têtes KV de 128, nombre de couches déduit de la taille).
2. La machine
3. Le verdict
Toutes les quantifications sur votre machine
Toutes les machines pour ce réglage
Comment le calcul est fait
Toutes les valeurs sont des estimations : elles donnent un ordre de grandeur fiable pour choisir, pas une mesure.
- Poids = paramètres × bits par poids ÷ 8
- Cache KV = 2 × têtes KV × dimension par tête × octets × utilisateurs × (couches complètes × contexte + couches à fenêtre × min(contexte, fenêtre))
- Total = (poids + cache KV) × (1 + marge)
- Vitesse maximale théorique ≈ bande passante mémoire ÷ poids lus par token (poids actifs pour un MoE)
Comprendre en 4 notions
Quantification
Réduire la précision des poids (16 bits → 8, 5, 4 bits…) pour diviser la mémoire nécessaire. Q4_K_M est le compromis le plus utilisé : environ 3,3 fois plus léger que le 16 bits, avec une perte de qualité modeste. En dessous de Q3, la qualité chute nettement.
Cache KV et contexte
Pour se souvenir de la conversation, le modèle garde en mémoire des « clés » et « valeurs » pour chaque token. Ce cache grandit avec la longueur du contexte et le nombre d'utilisateurs : à 128 000 tokens, il peut dépasser la taille du modèle lui-même.
Modèles MoE (mélange d'experts)
Un MoE contient beaucoup de paramètres mais n'en active qu'une petite partie par token (le « A » de 35B-A3B). Il faut de la mémoire pour TOUS les paramètres, mais la vitesse dépend surtout des paramètres actifs : un MoE est rapide pour sa taille.
Attention hybride
Les modèles récents (Gemma 4, gpt-oss, Qwen3.5 et 3.8, Mistral Small 4) limitent le cache : couches à fenêtre glissante, attention linéaire ou cache compressé (MLA). L'outil lit ces détails dans la fiche officielle de chaque modèle, d'où des besoins bien plus faibles en contexte long.
Limites honnêtes
- La vitesse affichée est un maximum théorique pour la génération de texte. La vitesse réelle dépend du logiciel (Ollama, LM Studio, llama.cpp, vLLM, MLX), des pilotes et de la longueur du prompt ; elle est souvent de 50 à 80 % de ce maximum.
- Sur Mac, macOS ne laisse au GPU qu'une partie de la mémoire unifiée (environ deux tiers jusqu'à 36 Go, trois quarts au-delà, valeurs observées et réglables via iogpu.wired_limit_mb).
- Le déchargement partiel vers la mémoire du PC fonctionne mais ralentit fortement : chaque token lit alors une partie des poids à la vitesse de la RAM.
- Les modèles multimodaux (image, audio) demandent un peu de mémoire en plus pour leur encodeur.
- Gemma 4 E4B compte 8 Md de paramètres avec ses embeddings par couche ; certains logiciels les gardent hors du GPU et consomment moins.
Lire le guide : IA locale ou cloud ? → Comparer avec le coût d'une API cloud →
Sources (vérifiées en octobre 2026)
- llama.cpp : bits par poids de chaque quantification
- Apple : mémoire et bande passante des MacBook Pro M5
- NVIDIA : DGX Spark
- AMD : Ryzen AI Max+ 395
- Fiches officielles (config.json) : Qwen3 4B, Gemma 4 E4B, Llama 3.1 8B, Qwen3 8B, DeepSeek-R1-0528-Qwen3-8B, Qwen3.5 9B, Gemma 4 12B, Qwen3 14B, gpt-oss-20b, Mistral Small 3.2 24B, Gemma 4 26B-A4B, Qwen3.8 27B, Gemma 4 31B, Qwen3 32B, Qwen3.5 35B-A3B, Llama 3.3 70B, Llama 4 Scout (109B-A17B), gpt-oss-120b, Mistral Small 4 (119B-A6.5B), Qwen3 235B-A22B
Pourquoi cet outil
Les vraies architectures
Couches, têtes KV, fenêtres glissantes, attention linéaire et MoE sont lus dans la fiche officielle de chaque modèle : le cache est calculé au plus juste, pas avec une règle approximative.
Un verdict pour chaque machine
Cartes NVIDIA, Mac M5 et M3 Ultra, DGX Spark, Ryzen AI Max+ ou simple PC : tient en mémoire, tient avec déchargement (lent) ou ne tient pas.
La bonne quantification
L'outil propose la quantification la plus précise qui tient sur votre machine, pour ne pas sacrifier la qualité inutilement.
Questions fréquentes
Combien de mémoire faut-il pour un modèle de 8 milliards de paramètres ?
En Q4_K_M, environ 5 Go pour les poids, plus le cache selon le contexte : une carte de 8 Go suffit pour une conversation, 12 à 16 Go sont confortables pour des contextes longs.
Un Mac avec 16 Go peut-il faire tourner une IA locale ?
Oui, des modèles jusqu'à 8 ou 9 milliards de paramètres en 4 bits. macOS ne laisse au GPU qu'environ deux tiers de la mémoire : gardez de la marge pour le système.
Pourquoi un modèle MoE est-il plus rapide qu'un modèle dense de même taille ?
Parce qu'il ne lit qu'une partie de ses poids pour chaque token. Il faut pourtant assez de mémoire pour l'ensemble des paramètres.
La vitesse affichée est-elle garantie ?
Non. C'est un maximum théorique calculé à partir de la bande passante mémoire ; la vitesse réelle est souvent de 50 à 80 % de cette valeur selon le logiciel utilisé.
Pour aller plus loin
IA locale ou cloud : que choisir selon son besoin et son budget
Lire le guide →Générateur de fiche Play Store
Ouvrir l'outil →llms.txt et robots IA
Ouvrir l'outil →Fichier d'instructions pour agent de code
Ouvrir l'outil →Bibliothèque de prompts par métier
Ouvrir l'outil →Calculateur de ROI de l'automatisation
Ouvrir l'outil →Calculateur de coût d'API IA
Ouvrir l'outil →Anonymiseur avant envoi à une IA
Ouvrir l'outil →Concepteur d'assistant IA pour entreprise
Ouvrir l'outil →Charte d'utilisation de l'IA en entreprise
Ouvrir l'outil →Intégrer l'IA dans votre activité, pour de vrai ?
Automatisations, assistants, contenus multilingues, applications : je conçois des solutions utiles, mesurables et respectueuses de vos données.