Faire tourner un LLM en local sur iPhone

Mis à jour le · 10 min de lecture

Oui, un iPhone récent peut faire tourner une IA de type ChatGPT sans Internet. Il faut un modèle compact (1 à 4 milliards de paramètres, compressé en 4 bits) et idéalement 8 Go de RAM, soit un iPhone 15 Pro ou plus récent. Les réponses sont rapides et privées, mais moins savantes qu’en ligne.

Qu’est-ce qu’un LLM local ?

Un LLM (large language model, grand modèle de langage) est le programme qui fait fonctionner un assistant comme ChatGPT. Concrètement, c’est un gros fichier de nombres, les paramètres, et un moteur qui s’en sert pour prédire, mot après mot, la suite la plus probable d’un texte.

Avec ChatGPT, Gemini ou Claude, ce fichier se trouve sur les serveurs de l’entreprise : votre message part sur Internet, il est traité là-bas, puis la réponse revient. Un LLM local fait l’inverse : le fichier est téléchargé une fois sur votre téléphone et tout le calcul se fait sur sa puce. Le message ne quitte pas l’appareil.

Pourquoi faire tourner une IA sur son iPhone ?

La contrepartie : un téléphone n’a ni la mémoire ni la puissance d’un serveur. Les modèles qui y tiennent sont beaucoup plus petits que ceux de ChatGPT, et cela se voit (voir plus bas).

Quel iPhone faut-il ?

La RAM avant tout

Pour répondre, le modèle doit être chargé entièrement en mémoire vive. C’est donc la RAM, plus que la puce, qui décide de ce qui est possible. Et iOS ne laisse à une app qu’une partie de cette mémoire : le système et les autres apps gardent la leur. En pratique, un modèle doit peser nettement moins que la RAM totale du téléphone.

RAM de l’iPhoneExemplesCe qui tient confortablement
12 GoiPhone 18 Pro, 18 Pro Max, 17 Pro, 17 Pro Max, AirModèles d’environ 4 milliards de paramètres en 4 bits (≈ 2,5 à 4,5 Go), comme Gemma 4 E4B
8 GoiPhone 15 Pro, 15 Pro Max, gamme iPhone 16Modèles de 2 à 4 milliards de paramètres (≈ 1,5 à 3 Go), comme Gemma 4 E2B ou Llama 3.2 3B
6 GoiPhone 14, 13 Pro, 12 ProModèles compacts ou très compressés (≈ 2,5 Go au plus), comme Gemma 3 4B QAT
4 Go et moinsiPhone XS à iPhone 13Petits modèles d’1 milliard de paramètres ou moins (≈ 0,3 à 0,8 Go), comme Gemma 3 1B

Ces seuils sont des repères, pas des règles strictes : ils dépendent de la compression du modèle, de la longueur de la conversation et de ce qui tourne en arrière-plan.

La puce et le GPU

Le calcul d’un LLM se résume surtout à d’énormes multiplications de matrices, que le GPU de l’iPhone exécute bien plus vite que le processeur principal. Les moteurs passent par Metal, l’interface d’Apple pour programmer le GPU. Sur les puces Apple, CPU et GPU partagent la même mémoire (mémoire unifiée) : le modèle n’a pas besoin d’être copié de l’un à l’autre. Plus la puce est récente, plus le texte s’écrit vite. Depuis l’iPhone 15 Pro (puce A17 Pro, 8 Go), l’expérience devient vraiment fluide.

Le stockage

Comptez la taille du modèle en espace libre : de quelques centaines de Mo pour les plus petits à plus de 4 Go pour les plus capables. Le téléchargement se fait une seule fois, de préférence en Wi-Fi.

Comment ça marche

Des milliards de paramètres

La taille d’un modèle se compte en paramètres : « 1B » signifie un milliard, « 4B » quatre milliards. Plus il y en a, plus le modèle retient de connaissances et raisonne finement, mais plus il pèse lourd. Les modèles des grands services en ligne se comptent en centaines de milliards de paramètres ; sur un iPhone, on reste en général au-dessous de 5 milliards.

La quantification : 16 bits, 4 bits, 2 bits

À l’origine, chaque paramètre est stocké sur 16 bits. La quantification les arrondit sur moins de bits, au prix d’un peu de précision. Selon la documentation de Google, Gemma 4 E2B occupe environ 11,4 Go en 16 bits, mais 2,9 Go en 4 bits ; Gemma 4 E4B passe de 17,9 Go à 4,5 Go. Sans cette compression, aucun de ces modèles ne tiendrait dans un iPhone.

Ordre de grandeur utile : en 4 bits, un modèle pèse un peu plus d’un demi-octet par paramètre. Un modèle de 3 milliards de paramètres fait donc environ 2 Go.

Le format GGUF et les moteurs

Et Apple Intelligence ?

Apple fait déjà tourner un LLM sur l’iPhone : le modèle de fondation d’Apple Intelligence compte environ 3 milliards de paramètres, compressé à 2 bits par paramètre dans sa version 2025. Les développeurs peuvent l’utiliser gratuitement via le framework Foundation Models. Il est réservé aux iPhone compatibles Apple Intelligence (iPhone 15 Pro et suivants), et c’est un modèle unique, choisi par Apple : on ne peut pas en installer un autre à sa place.

Quels modèles tiennent sur un iPhone ?

Plusieurs éditeurs publient des modèles « ouverts » (poids téléchargeables) pensés pour les appareils mobiles. Voici les principaux, avec leur taille approximative une fois compressés en 4 bits environ.

ModèleÉditeurParamètresTaille ≈
Gemma 3 270MGoogle0,27 milliard0,3 Go
Gemma 3 1BGoogle1 milliard0,8 Go
Llama 3.2 1BMeta1 milliard≈ 0,8 Go
Qwen3 1.7BAlibaba1,7 milliard≈ 1,1 Go
Llama 3.2 3BMeta3 milliards≈ 2 Go
Phi-4-miniMicrosoft3,8 milliards≈ 2,4 Go
Gemma 3 4B (QAT)Google4 milliards2,5 Go
Qwen3 4BAlibaba4 milliards≈ 2,5 Go
Gemma 4 E2BGoogle2 milliards « effectifs »2,9 Go
Gemma 4 E4BGoogle4 milliards « effectifs »4,5 Go

Les tailles exactes varient d’un fichier à l’autre selon la méthode de compression. Les modèles Gemma 4 « E » (pour effective) sont conçus pour les appareils : ils activent environ 2 ou 4 milliards de paramètres à la fois, mais leur fichier complet est plus lourd. Pour choisir selon votre iPhone, la liste des modèles de DontKeep indique la RAM conseillée pour chacun.

À quoi s’attendre

La vitesse

La vitesse se mesure en tokens par seconde (un token est un fragment de mot). Sur les mesures publiées par la communauté llama.cpp, un iPhone 15 Pro génère environ 57 tokens/s avec un modèle d’1 milliard de paramètres en 4 bits, environ 25 tokens/s avec un modèle de 2,8 milliards, et environ 9 tokens/s avec un modèle de 7 milliards. Un iPhone Air (puce A19 Pro) monte à environ 87 et 36 tokens/s sur les deux premiers. Apple annonce de son côté environ 30 tokens/s pour son modèle de 3 milliards sur iPhone 15 Pro.

Retenez l’ordre de grandeur : avec un modèle de 2 à 4 milliards de paramètres sur un iPhone récent, le texte s’écrit plus vite qu’on ne le lit. Les résultats réels varient selon le modèle, la compression et la température du téléphone.

La qualité face à ChatGPT

Soyons clairs : un modèle de 4 milliards de paramètres ne vaut pas les meilleurs modèles en ligne. Il est très bon pour rédiger, reformuler, résumer, traduire, expliquer un concept ou réfléchir à voix haute. Il est plus fragile sur le raisonnement en plusieurs étapes, les calculs, le code complexe et les questions pointues.

Des connaissances figées, et des erreurs

La taille du contexte

Le contexte est la quantité de texte que le modèle peut « garder en tête » dans une conversation. Sur le papier, les petits modèles annoncent 32 000 à 128 000 tokens. Sur un téléphone, chaque token de contexte consomme de la mémoire en plus du modèle : les apps limitent donc souvent le contexte bien en dessous de ces maximums. Dans une très longue conversation, le début finit par être oublié.

Chauffe et batterie

Faire tourner un LLM sollicite fortement le GPU. Sur de longues sessions, le téléphone chauffe, iOS peut réduire la vitesse de la puce pour la refroidir, et la batterie baisse plus vite qu’avec une app de messagerie. Pour un usage ponctuel, c’est peu sensible.

En pratique : quelles apps ?

L’App Store ne propose pas « ChatGPT hors ligne », mais plusieurs apps téléchargent et exécutent un modèle ouvert sur l’iPhone :

Avant d’installer, vérifiez la fiche « Confidentialité de l’app » sur l’App Store et testez en mode avion : si l’assistant répond, le calcul se fait bien sur l’iPhone.

Ce qui reste malgré tout sur l’iPhone

Un LLM local garde vos messages hors des serveurs, mais l’iPhone lui-même enregistre certaines choses, quelle que soit l’app : qu’elle est installée et a été ouverte (temps d’écran, utilisation de la batterie), le volume de données consommé pour télécharger un modèle, et le modèle lui-même. Selon l’app, les conversations peuvent aussi être conservées sur le téléphone, et parfois incluses dans les sauvegardes. C’est pourquoi DontKeep efface par défaut ce qui n’a pas été explicitement gardé.

Local ne veut pas dire invisible : cela veut dire que le contenu de vos conversations ne part pas sur un serveur.

Questions fréquentes

Peut-on vraiment avoir un ChatGPT hors ligne sur iPhone ?

Oui, au sens d’un assistant conversationnel qui répond sans connexion. Pas au sens du même modèle : les modèles qui tiennent sur un iPhone sont bien plus petits que ceux d’OpenAI, donc moins savants et sans accès à l’actualité.

Quel est le meilleur iPhone pour un LLM local ?

Celui qui a le plus de RAM. Les iPhone 18 Pro, 18 Pro Max, 17 Pro, 17 Pro Max et Air (12 Go) font tourner les modèles d’environ 4 milliards de paramètres. Avec 8 Go (iPhone 15 Pro et suivants), les modèles de 2 à 4 milliards fonctionnent bien.

Mon iPhone 12 ou 13 peut-il faire tourner une IA locale ?

Oui, avec de petits modèles (1 milliard de paramètres ou moins) ou des modèles très compressés. Les réponses seront plus simples, mais utiles pour reformuler ou résumer.

Un LLM local a-t-il besoin d’Internet ?

Seulement pour télécharger le modèle, une fois. Ensuite, tout fonctionne en mode avion.

Est-ce que ça abîme la batterie ?

Une longue session consomme davantage et fait chauffer le téléphone, comme un jeu 3D. Cela n’a rien de dangereux : iOS régule la température automatiquement.

Les modèles locaux sont-ils gratuits ?

Les modèles ouverts comme Gemma, Llama ou Qwen sont téléchargeables gratuitement, sous leurs licences respectives. Les apps qui les font tourner peuvent être gratuites, payantes ou proposer des options.

Sources

  1. Google AI for Developers : présentation de Gemma et besoins en mémoire
  2. Google : fiche du modèle Gemma 3
  3. llama.cpp (GitHub) : moteur d’inférence
  4. llama.cpp : mesures de performance sur iPhone et iPad (A-series)
  5. Hugging Face : documentation du format GGUF
  6. Apple Machine Learning Research : modèles de fondation d’Apple (2024)
  7. Apple Machine Learning Research : mises à jour 2025 des modèles de fondation
  8. Meta AI : Llama 3.2, modèles 1B et 3B pour mobiles