Faire tourner un LLM en local sur iPhone
Oui, un iPhone récent peut faire tourner une IA de type ChatGPT sans Internet. Il faut un modèle compact (1 à 4 milliards de paramètres, compressé en 4 bits) et idéalement 8 Go de RAM, soit un iPhone 15 Pro ou plus récent. Les réponses sont rapides et privées, mais moins savantes qu’en ligne.
Qu’est-ce qu’un LLM local ?
Un LLM (large language model, grand modèle de langage) est le programme qui fait fonctionner un assistant comme ChatGPT. Concrètement, c’est un gros fichier de nombres, les paramètres, et un moteur qui s’en sert pour prédire, mot après mot, la suite la plus probable d’un texte.
Avec ChatGPT, Gemini ou Claude, ce fichier se trouve sur les serveurs de l’entreprise : votre message part sur Internet, il est traité là-bas, puis la réponse revient. Un LLM local fait l’inverse : le fichier est téléchargé une fois sur votre téléphone et tout le calcul se fait sur sa puce. Le message ne quitte pas l’appareil.
Pourquoi faire tourner une IA sur son iPhone ?
- Confidentialité. Ce que vous écrivez n’est envoyé à aucun serveur. Il n’y a pas de compte, pas d’historique stocké chez un tiers, pas de conversation susceptible d’être relue ou utilisée pour entraîner un modèle.
- Hors ligne. Une fois le modèle téléchargé, l’assistant répond en mode avion, dans le métro, à l’étranger sans forfait, ou dans une zone sans réseau.
- Pas d’abonnement obligatoire. Le calcul est fait par votre téléphone, pas par un centre de données qu’il faut payer à chaque requête.
- Disponibilité. Pas de file d’attente, pas de panne de serveur, pas de limite de messages par heure. La réponse commence à s’écrire presque aussitôt.
La contrepartie : un téléphone n’a ni la mémoire ni la puissance d’un serveur. Les modèles qui y tiennent sont beaucoup plus petits que ceux de ChatGPT, et cela se voit (voir plus bas).
Quel iPhone faut-il ?
La RAM avant tout
Pour répondre, le modèle doit être chargé entièrement en mémoire vive. C’est donc la RAM, plus que la puce, qui décide de ce qui est possible. Et iOS ne laisse à une app qu’une partie de cette mémoire : le système et les autres apps gardent la leur. En pratique, un modèle doit peser nettement moins que la RAM totale du téléphone.
| RAM de l’iPhone | Exemples | Ce qui tient confortablement |
|---|---|---|
| 12 Go | iPhone 18 Pro, 18 Pro Max, 17 Pro, 17 Pro Max, Air | Modèles d’environ 4 milliards de paramètres en 4 bits (≈ 2,5 à 4,5 Go), comme Gemma 4 E4B |
| 8 Go | iPhone 15 Pro, 15 Pro Max, gamme iPhone 16 | Modèles de 2 à 4 milliards de paramètres (≈ 1,5 à 3 Go), comme Gemma 4 E2B ou Llama 3.2 3B |
| 6 Go | iPhone 14, 13 Pro, 12 Pro | Modèles compacts ou très compressés (≈ 2,5 Go au plus), comme Gemma 3 4B QAT |
| 4 Go et moins | iPhone XS à iPhone 13 | Petits modèles d’1 milliard de paramètres ou moins (≈ 0,3 à 0,8 Go), comme Gemma 3 1B |
Ces seuils sont des repères, pas des règles strictes : ils dépendent de la compression du modèle, de la longueur de la conversation et de ce qui tourne en arrière-plan.
La puce et le GPU
Le calcul d’un LLM se résume surtout à d’énormes multiplications de matrices, que le GPU de l’iPhone exécute bien plus vite que le processeur principal. Les moteurs passent par Metal, l’interface d’Apple pour programmer le GPU. Sur les puces Apple, CPU et GPU partagent la même mémoire (mémoire unifiée) : le modèle n’a pas besoin d’être copié de l’un à l’autre. Plus la puce est récente, plus le texte s’écrit vite. Depuis l’iPhone 15 Pro (puce A17 Pro, 8 Go), l’expérience devient vraiment fluide.
Le stockage
Comptez la taille du modèle en espace libre : de quelques centaines de Mo pour les plus petits à plus de 4 Go pour les plus capables. Le téléchargement se fait une seule fois, de préférence en Wi-Fi.
Comment ça marche
Des milliards de paramètres
La taille d’un modèle se compte en paramètres : « 1B » signifie un milliard, « 4B » quatre milliards. Plus il y en a, plus le modèle retient de connaissances et raisonne finement, mais plus il pèse lourd. Les modèles des grands services en ligne se comptent en centaines de milliards de paramètres ; sur un iPhone, on reste en général au-dessous de 5 milliards.
La quantification : 16 bits, 4 bits, 2 bits
À l’origine, chaque paramètre est stocké sur 16 bits. La quantification les arrondit sur moins de bits, au prix d’un peu de précision. Selon la documentation de Google, Gemma 4 E2B occupe environ 11,4 Go en 16 bits, mais 2,9 Go en 4 bits ; Gemma 4 E4B passe de 17,9 Go à 4,5 Go. Sans cette compression, aucun de ces modèles ne tiendrait dans un iPhone.
- 4 bits : le compromis le plus courant, avec une perte de qualité généralement modérée.
- 2 à 3 bits : pour faire entrer un modèle dans moins de RAM, avec une perte plus visible. Apple compresse elle-même son modèle embarqué à 2 bits par paramètre, en l’entraînant pour (QAT, quantization-aware training).
Ordre de grandeur utile : en 4 bits, un modèle pèse un peu plus d’un demi-octet par paramètre. Un modèle de 3 milliards de paramètres fait donc environ 2 Go.
Le format GGUF et les moteurs
- llama.cpp est le moteur open source le plus répandu. Sa documentation indique que les puces Apple sont « un citoyen de première classe », optimisées via Metal, et qu’il gère des quantifications de 1,5 à 8 bits. Ses modèles sont au format GGUF, un fichier unique qui contient les poids et leurs métadonnées, conçu pour se charger rapidement. Des milliers de modèles GGUF sont publiés sur Hugging Face.
- MLX est le framework d’apprentissage automatique d’Apple pour ses puces, conçu autour de la mémoire unifiée, avec une interface Swift utilisée par certaines apps iOS.
- Core ML est le framework historique d’Apple pour exécuter des modèles sur l’appareil, qui peut s’appuyer sur le CPU, le GPU et le Neural Engine.
Et Apple Intelligence ?
Apple fait déjà tourner un LLM sur l’iPhone : le modèle de fondation d’Apple Intelligence compte environ 3 milliards de paramètres, compressé à 2 bits par paramètre dans sa version 2025. Les développeurs peuvent l’utiliser gratuitement via le framework Foundation Models. Il est réservé aux iPhone compatibles Apple Intelligence (iPhone 15 Pro et suivants), et c’est un modèle unique, choisi par Apple : on ne peut pas en installer un autre à sa place.
Quels modèles tiennent sur un iPhone ?
Plusieurs éditeurs publient des modèles « ouverts » (poids téléchargeables) pensés pour les appareils mobiles. Voici les principaux, avec leur taille approximative une fois compressés en 4 bits environ.
| Modèle | Éditeur | Paramètres | Taille ≈ |
|---|---|---|---|
| Gemma 3 270M | 0,27 milliard | 0,3 Go | |
| Gemma 3 1B | 1 milliard | 0,8 Go | |
| Llama 3.2 1B | Meta | 1 milliard | ≈ 0,8 Go |
| Qwen3 1.7B | Alibaba | 1,7 milliard | ≈ 1,1 Go |
| Llama 3.2 3B | Meta | 3 milliards | ≈ 2 Go |
| Phi-4-mini | Microsoft | 3,8 milliards | ≈ 2,4 Go |
| Gemma 3 4B (QAT) | 4 milliards | 2,5 Go | |
| Qwen3 4B | Alibaba | 4 milliards | ≈ 2,5 Go |
| Gemma 4 E2B | 2 milliards « effectifs » | 2,9 Go | |
| Gemma 4 E4B | 4 milliards « effectifs » | 4,5 Go |
Les tailles exactes varient d’un fichier à l’autre selon la méthode de compression. Les modèles Gemma 4 « E » (pour effective) sont conçus pour les appareils : ils activent environ 2 ou 4 milliards de paramètres à la fois, mais leur fichier complet est plus lourd. Pour choisir selon votre iPhone, la liste des modèles de DontKeep indique la RAM conseillée pour chacun.
À quoi s’attendre
La vitesse
La vitesse se mesure en tokens par seconde (un token est un fragment de mot). Sur les mesures publiées par la communauté llama.cpp, un iPhone 15 Pro génère environ 57 tokens/s avec un modèle d’1 milliard de paramètres en 4 bits, environ 25 tokens/s avec un modèle de 2,8 milliards, et environ 9 tokens/s avec un modèle de 7 milliards. Un iPhone Air (puce A19 Pro) monte à environ 87 et 36 tokens/s sur les deux premiers. Apple annonce de son côté environ 30 tokens/s pour son modèle de 3 milliards sur iPhone 15 Pro.
Retenez l’ordre de grandeur : avec un modèle de 2 à 4 milliards de paramètres sur un iPhone récent, le texte s’écrit plus vite qu’on ne le lit. Les résultats réels varient selon le modèle, la compression et la température du téléphone.
La qualité face à ChatGPT
Soyons clairs : un modèle de 4 milliards de paramètres ne vaut pas les meilleurs modèles en ligne. Il est très bon pour rédiger, reformuler, résumer, traduire, expliquer un concept ou réfléchir à voix haute. Il est plus fragile sur le raisonnement en plusieurs étapes, les calculs, le code complexe et les questions pointues.
Des connaissances figées, et des erreurs
- Un modèle local ne va pas sur Internet : il ne connaît que ce qu’il a appris jusqu’à sa date de coupure (août 2024 pour Gemma 3, selon Google). Il ignore l’actualité.
- Comme tous les LLM, il peut halluciner : inventer un chiffre, une citation ou une référence avec aplomb. Google rappelle que ses modèles ne sont pas une base de connaissances. Plus le modèle est petit, plus le risque est élevé : vérifiez tout fait important.
La taille du contexte
Le contexte est la quantité de texte que le modèle peut « garder en tête » dans une conversation. Sur le papier, les petits modèles annoncent 32 000 à 128 000 tokens. Sur un téléphone, chaque token de contexte consomme de la mémoire en plus du modèle : les apps limitent donc souvent le contexte bien en dessous de ces maximums. Dans une très longue conversation, le début finit par être oublié.
Chauffe et batterie
Faire tourner un LLM sollicite fortement le GPU. Sur de longues sessions, le téléphone chauffe, iOS peut réduire la vitesse de la puce pour la refroidir, et la batterie baisse plus vite qu’avec une app de messagerie. Pour un usage ponctuel, c’est peu sensible.
En pratique : quelles apps ?
L’App Store ne propose pas « ChatGPT hors ligne », mais plusieurs apps téléchargent et exécutent un modèle ouvert sur l’iPhone :
- DontKeep fait tourner les modèles Gemma de Google avec llama.cpp (GGUF, accélération Metal), sans compte. Les conversations ne sont jamais écrites sur le disque : elles disparaissent à la fermeture de l’app, et au plus tard après un délai réglable (une heure par défaut), sauf si vous choisissez de les garder, chiffrées.
- PocketPal AI : app open source (licence MIT), basée sur llama.cpp, qui permet de charger n’importe quel modèle GGUF depuis Hugging Face. Idéale pour expérimenter.
- Private LLM : app payante (achat unique) pour iPhone, iPad et Mac, avec un large catalogue de modèles et l’intégration aux Raccourcis.
- Enclave : app gratuite avec achats intégrés, plusieurs familles de modèles (Llama, Gemma, Qwen, Phi…), intégration aux Raccourcis et à Siri.
- LLM Farm : projet open source pionnier, mais son dépôt indique qu’il est temporairement indisponible sur l’App Store et TestFlight.
Avant d’installer, vérifiez la fiche « Confidentialité de l’app » sur l’App Store et testez en mode avion : si l’assistant répond, le calcul se fait bien sur l’iPhone.
Ce qui reste malgré tout sur l’iPhone
Un LLM local garde vos messages hors des serveurs, mais l’iPhone lui-même enregistre certaines choses, quelle que soit l’app : qu’elle est installée et a été ouverte (temps d’écran, utilisation de la batterie), le volume de données consommé pour télécharger un modèle, et le modèle lui-même. Selon l’app, les conversations peuvent aussi être conservées sur le téléphone, et parfois incluses dans les sauvegardes. C’est pourquoi DontKeep efface par défaut ce qui n’a pas été explicitement gardé.
Local ne veut pas dire invisible : cela veut dire que le contenu de vos conversations ne part pas sur un serveur.
Questions fréquentes
Peut-on vraiment avoir un ChatGPT hors ligne sur iPhone ?
Oui, au sens d’un assistant conversationnel qui répond sans connexion. Pas au sens du même modèle : les modèles qui tiennent sur un iPhone sont bien plus petits que ceux d’OpenAI, donc moins savants et sans accès à l’actualité.
Quel est le meilleur iPhone pour un LLM local ?
Celui qui a le plus de RAM. Les iPhone 18 Pro, 18 Pro Max, 17 Pro, 17 Pro Max et Air (12 Go) font tourner les modèles d’environ 4 milliards de paramètres. Avec 8 Go (iPhone 15 Pro et suivants), les modèles de 2 à 4 milliards fonctionnent bien.
Mon iPhone 12 ou 13 peut-il faire tourner une IA locale ?
Oui, avec de petits modèles (1 milliard de paramètres ou moins) ou des modèles très compressés. Les réponses seront plus simples, mais utiles pour reformuler ou résumer.
Un LLM local a-t-il besoin d’Internet ?
Seulement pour télécharger le modèle, une fois. Ensuite, tout fonctionne en mode avion.
Est-ce que ça abîme la batterie ?
Une longue session consomme davantage et fait chauffer le téléphone, comme un jeu 3D. Cela n’a rien de dangereux : iOS régule la température automatiquement.
Les modèles locaux sont-ils gratuits ?
Les modèles ouverts comme Gemma, Llama ou Qwen sont téléchargeables gratuitement, sous leurs licences respectives. Les apps qui les font tourner peuvent être gratuites, payantes ou proposer des options.
Sources
- Google AI for Developers : présentation de Gemma et besoins en mémoire
- Google : fiche du modèle Gemma 3
- llama.cpp (GitHub) : moteur d’inférence
- llama.cpp : mesures de performance sur iPhone et iPad (A-series)
- Hugging Face : documentation du format GGUF
- Apple Machine Learning Research : modèles de fondation d’Apple (2024)
- Apple Machine Learning Research : mises à jour 2025 des modèles de fondation
- Meta AI : Llama 3.2, modèles 1B et 3B pour mobiles