🧠 Une IA sur votre téléphone, sans Internet
🌐 Français · English · العربية
Depuis 2025, on peut faire tourner un vrai modèle d'IA (un « LLM ») directement sur un téléphone Android, sans connexion et sans envoyer vos données à personne. Peu de gens le savent. Voici comment faire, et ce qu'il faut savoir pour que ça marche bien.
Pourquoi une IA locale ?
| IA dans le cloud (ChatGPT, Gemini…) | IA locale sur le téléphone | |
|---|---|---|
| Confidentialité | Vos messages partent sur un serveur | ✅ Rien ne quitte le téléphone |
| Internet | Obligatoire | ✅ Fonctionne en mode avion, sur un chantier, en avion |
| Coût | Abonnement pour les meilleurs modèles | ✅ Gratuit |
| Puissance | Très élevée | Plus limitée, mais suffisante pour beaucoup de tâches |
Parfait pour : résumer un document confidentiel, reformuler un email, traduire hors ligne, réviser avec un enfant sans écran publicitaire, ou réfléchir à voix haute sans que ça soit enregistré quelque part.
1. Votre téléphone est-il assez puissant ?
La règle simple : un modèle « 4 bits » occupe environ 0,6 à 0,7 Go de mémoire par milliard de paramètres, plus un peu de marge.
| RAM du téléphone | Taille de modèle conseillée | Exemples de familles de modèles |
|---|---|---|
| 4 Go | 0,5 à 1 milliard de paramètres (« 1B ») | Gemma, Qwen, Llama en petite taille |
| 6 à 8 Go | 1 à 4 milliards (« 2B », « 3B », « 4B ») | Gemma 3n, Qwen, Llama 3.2 3B, Phi |
| 12 Go et plus | jusqu'à 7 ou 8 milliards | Modèles « 7B / 8B » en 4 bits |
Le RAM se trouve dans Paramètres → À propos du téléphone. Commencez petit : un modèle trop gros rend le téléphone très lent ou fait planter l'app.
2. La méthode facile : une app prête à l'emploi
- Google AI Edge Gallery : l'app expérimentale de Google pour tester des modèles (dont Gemma) hors ligne : discussion, questions sur une image, transcription. Publiée en open source sur GitHub (
google-ai-edge/gallery). - PocketPal AI : app open source qui télécharge des modèles au format GGUF depuis Hugging Face et les fait tourner localement.
- MLC Chat : une autre app de démonstration open source (projet MLC LLM).
Dans ces apps : choisissez un petit modèle, téléchargez-le en Wi-Fi (de quelques centaines de Mo à plusieurs Go), puis passez en mode avion pour vérifier que tout fonctionne vraiment hors ligne.
3. La méthode « geek » : llama.cpp dans Termux
Pour les développeurs qui veulent tout contrôler (voir le guide Termux) :
pkg install git cmake clang
git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp
cmake -B build && cmake --build build --config Release -j 4
# téléchargez un modèle .gguf (par exemple une version Q4_K_M), puis :
./build/bin/llama-cli -m ~/modele.gguf -p "Explique le protocole SSH en 3 phrases."llama-server lance même une petite interface web locale accessible depuis le navigateur du téléphone.
4. Choisir le bon fichier de modèle
- Q4_K_M : le meilleur compromis taille / qualité pour un téléphone.
- Q8 : plus précis, mais environ deux fois plus lourd.
- Un modèle « instruct » ou « it » est fait pour discuter ; un modèle « base » ne l'est pas.
- Préférez les modèles qui annoncent un bon niveau dans votre langue : tous ne parlent pas aussi bien français ou arabe qu'anglais.
5. Les limites à connaître
- Un petit modèle se trompe plus souvent et invente des faits avec assurance. Vérifiez toujours ce qui compte (chiffres, lois, médicaments, calculs de structure).
- Il ne connaît pas l'actualité : ses connaissances s'arrêtent à la date de son entraînement.
- Il chauffe et consomme de la batterie : branchez le téléphone pour les longues sessions.
🧪 L'IA dans mes apps
Plusieurs de mes apps utilisent l'IA (amélioration d'image, suppression de fond, traitement de données), parfois directement sur le téléphone. Rejoignez le club pour les tester en avant-première, avec le Premium offert.