Cómo ejecutar un LLM en local en el iPhone

Actualizado el 17 de octubre de 2026 · 10 min de lectura

Sí, un iPhone reciente puede ejecutar una IA tipo ChatGPT sin conexión a internet. Hace falta un modelo compacto (de 1.000 a 4.000 millones de parámetros, comprimido a 4 bits) e idealmente 8 GB de RAM, es decir, un iPhone 15 Pro o posterior. Las respuestas son rápidas y privadas, pero saben menos que una IA en línea.

¿Qué es un LLM local?

Un LLM (large language model, modelo de lenguaje grande) es el programa que hace funcionar a asistentes como ChatGPT. En la práctica, es un archivo enorme de números, los parámetros, y un motor que los usa para predecir, palabra tras palabra, la continuación más probable de un texto.

Con ChatGPT, Gemini o Claude, ese archivo está en los servidores de la empresa: tu mensaje viaja por internet, se procesa allí y la respuesta vuelve. Una IA local hace lo contrario: el modelo se descarga una vez en el teléfono y todo el cálculo se hace en su chip. El mensaje no sale del dispositivo.

¿Por qué usar una IA sin internet en el iPhone?

• Privacidad. Lo que escribes no se envía a ningún servidor. Sin cuenta, sin historial guardado por terceros, sin conversaciones que alguien pueda revisar o usar para entrenar un modelo.
• Funciona sin conexión. Con el modelo descargado, el asistente responde en modo avión, en el metro, en el extranjero sin datos o donde no haya cobertura.
• Sin suscripción obligatoria. El trabajo lo hace tu teléfono, no un centro de datos que hay que pagar en cada consulta.
• Siempre disponible. Sin colas, sin caídas del servidor, sin límite de mensajes por hora. La respuesta empieza a escribirse casi al instante.

La contrapartida: un teléfono no tiene la memoria ni la potencia de un servidor. Los modelos que caben son mucho más pequeños que los de ChatGPT, y se nota (lo vemos más abajo).

¿Qué iPhone necesitas?

Lo primero, la RAM

Para responder, el modelo debe cargarse por completo en la memoria RAM. Por eso es la RAM, más que el chip, la que decide qué es posible. Además, iOS solo deja a cada app una parte de esa memoria. En la práctica, el modelo tiene que pesar bastante menos que la RAM total del teléfono.

Son referencias, no reglas estrictas: dependen de la compresión del modelo, de la longitud de la conversación y de lo que se ejecute en segundo plano.

El chip y la GPU

Ejecutar un LLM consiste sobre todo en multiplicar matrices gigantes, algo que la GPU del iPhone hace mucho más rápido que el procesador principal. Los motores acceden a ella mediante Metal, la interfaz de Apple para programar la GPU. En los chips de Apple, CPU y GPU comparten la misma memoria unificada, así que el modelo no tiene que copiarse de una a otra. A partir del iPhone 15 Pro (chip A17 Pro, 8 GB), la experiencia es realmente fluida.

El almacenamiento

Necesitas tanto espacio libre como pese el modelo: desde unos cientos de MB hasta más de 4 GB. La descarga se hace una sola vez, mejor con Wi-Fi.

Cómo funciona

Miles de millones de parámetros

El tamaño de un modelo se mide en parámetros: «1B» significa 1.000 millones; «4B», 4.000 millones. Cuantos más tiene, más sabe y mejor razona, pero más pesa. Los grandes modelos en línea tienen cientos de miles de millones; en un iPhone se suele quedar por debajo de 5.000 millones.

La cuantización: 16, 4 y 2 bits

Cada parámetro se guarda originalmente en 16 bits. La cuantización los redondea a menos bits, a cambio de algo de precisión. Según la documentación de Google, Gemma 4 E2B ocupa unos 11,4 GB en 16 bits, pero 2,9 GB en 4 bits; Gemma 4 E4B pasa de 17,9 GB a 4,5 GB. Sin esta compresión, ninguno cabría en un iPhone.

• 4 bits: el equilibrio más habitual, con una pérdida de calidad en general moderada.
• 2 a 3 bits: para meter un modelo en menos RAM, con una pérdida más visible. Apple comprime su propio modelo integrado a 2 bits por parámetro, entrenándolo para ello (QAT, quantization-aware training).

Regla práctica: en 4 bits, un modelo pesa algo más de medio byte por parámetro. Uno de 3.000 millones de parámetros ocupa unos 2 GB.

El formato GGUF y los motores

• llama.cpp es el motor de código abierto más extendido. Su documentación trata los chips de Apple como «ciudadanos de primera clase», optimizados con Metal, y admite cuantizaciones de 1,5 a 8 bits. Usa el formato GGUF: un único archivo con los pesos y sus metadatos, pensado para cargarse rápido. En Hugging Face hay miles de modelos GGUF.
• MLX es el framework de aprendizaje automático de Apple para sus chips, diseñado en torno a la memoria unificada, con una interfaz en Swift que usan algunas apps de iOS.
• Core ML es el framework clásico de Apple para ejecutar modelos en el dispositivo, que puede usar la CPU, la GPU y el Neural Engine.

¿Y Apple Intelligence?

Apple ya ejecuta un LLM en el iPhone: el modelo base de Apple Intelligence tiene unos 3.000 millones de parámetros, comprimido a 2 bits por parámetro en su versión de 2025, y los desarrolladores pueden usarlo gratis con el framework Foundation Models. Solo funciona en iPhone compatibles con Apple Intelligence (iPhone 15 Pro y posteriores) y es un único modelo elegido por Apple: no se puede cambiar por otro.

¿Qué modelos caben en un iPhone?

Varias empresas publican modelos abiertos (con pesos descargables) pensados para móviles. Estos son los principales, con su tamaño aproximado comprimidos a unos 4 bits.

Los tamaños exactos varían según el archivo y el método de compresión. Los Gemma 4 «E» (de effective) están diseñados para dispositivos: activan unos 2.000 o 4.000 millones de parámetros a la vez, aunque el archivo completo pesa más. Para elegir según tu iPhone, la lista de modelos de DontKeep indica la RAM recomendada para cada uno.

Qué puedes esperar

La velocidad

La velocidad se mide en tokens por segundo (un token es un fragmento de palabra). En las pruebas publicadas por la comunidad de llama.cpp, un iPhone 15 Pro genera unos 57 tokens/s con un modelo de 1.000 millones de parámetros en 4 bits, unos 25 tokens/s con uno de 2.800 millones y unos 9 tokens/s con uno de 7.000 millones. Un iPhone Air (chip A19 Pro) llega a unos 87 y 36 tokens/s en los dos primeros. Apple, por su parte, anuncia unos 30 tokens/s para su modelo de 3.000 millones en el iPhone 15 Pro.

En resumen: con un modelo de 2.000 a 4.000 millones de parámetros en un iPhone reciente, el texto aparece más rápido de lo que se lee. Las cifras reales dependen del modelo, de la compresión y de la temperatura del teléfono.

La calidad frente a ChatGPT

Seamos claros: un modelo de 4.000 millones de parámetros no está al nivel de los mejores modelos en línea. Es muy bueno para redactar, reformular, resumir, traducir y explicar, o para pensar en voz alta. Flojea en razonamientos de varios pasos, cálculos, código complejo y preguntas muy especializadas.

Conocimientos congelados, y errores

• Un modelo local no navega por internet: solo sabe lo que aprendió hasta su fecha de corte (agosto de 2024 para Gemma 3, según Google). No conoce la actualidad.
• Como todo LLM, puede alucinar: inventar una cifra, una cita o una referencia con total seguridad. Google recuerda que sus modelos no son una base de conocimientos. Cuanto más pequeño es el modelo, mayor es el riesgo: comprueba cualquier dato importante.

El tamaño del contexto

El contexto es la cantidad de texto que el modelo puede «tener presente» en una conversación. Sobre el papel, los modelos pequeños anuncian entre 32.000 y 128.000 tokens. En un teléfono, cada token de contexto consume memoria además del modelo, así que las apps suelen limitarlo muy por debajo. En una conversación muy larga, el principio acaba olvidándose.

Calor y batería

Un LLM exige mucho a la GPU. En sesiones largas, el teléfono se calienta, iOS puede bajar la velocidad del chip para enfriarlo y la batería se gasta más rápido que con una app de mensajería. En un uso puntual, apenas se nota.

En la práctica: ¿qué apps hay?

En la App Store no hay un «ChatGPT sin conexión», pero varias apps descargan y ejecutan un modelo abierto en el iPhone:

• DontKeep ejecuta los modelos Gemma de Google con llama.cpp (GGUF, aceleración Metal), sin cuenta. Las conversaciones nunca se escriben en el disco: desaparecen al cerrar la app y, como máximo, tras un plazo ajustable (una hora por defecto), salvo que decidas guardarlas, cifradas.
• PocketPal AI: app de código abierto (licencia MIT), basada en llama.cpp, que carga cualquier modelo GGUF de Hugging Face. Ideal para experimentar.
• Private LLM: app de pago (compra única) para iPhone, iPad y Mac, con un amplio catálogo de modelos e integración con Atajos.
• Enclave: gratuita con compras integradas, varias familias de modelos (Llama, Gemma, Qwen, Phi…), integración con Atajos y Siri.
• LLM Farm: proyecto de código abierto pionero, aunque su repositorio indica que no está disponible temporalmente en la App Store ni en TestFlight.

Antes de instalar, revisa la sección «Privacidad de la app» en la App Store y prueba en modo avión: si el asistente responde, el cálculo se hace de verdad en el iPhone.

Lo que queda igualmente en el iPhone

Un LLM local mantiene tus mensajes lejos de los servidores, pero el propio iPhone registra algunas cosas, sea cual sea la app: que está instalada y se ha abierto (Tiempo de uso, uso de batería), los datos consumidos al descargar un modelo y el propio modelo. Según la app, las conversaciones también pueden guardarse en el teléfono, a veces incluidas en las copias de seguridad. Por eso DontKeep borra por defecto todo lo que no hayas guardado de forma explícita.

Local no significa invisible: significa que el contenido de tus conversaciones no se envía a un servidor.

Preguntas frecuentes

¿Se puede tener un ChatGPT sin internet en el iPhone?

Sí, en el sentido de un asistente de chat que responde sin conexión. No en el sentido del mismo modelo: los que caben en un iPhone son mucho más pequeños que los de OpenAI, saben menos y no conocen la actualidad.

¿Cuál es el mejor iPhone para un LLM local?

El que tenga más RAM. Los iPhone 18 Pro, 18 Pro Max, 17 Pro, 17 Pro Max y Air (12 GB) ejecutan modelos de unos 4.000 millones de parámetros. Con 8 GB (iPhone 15 Pro y posteriores), los modelos de 2.000 a 4.000 millones funcionan bien.

¿Puede un iPhone 12 o 13 ejecutar una IA local?

Sí, con modelos pequeños (1.000 millones de parámetros o menos) o muy comprimidos. Las respuestas serán más sencillas, pero útiles para reformular o resumir.

¿Un LLM local necesita internet?

Solo para descargar el modelo, una vez. Después, todo funciona en modo avión.

¿Daña la batería?

Una sesión larga consume más y calienta el teléfono, como un juego en 3D. No es peligroso: iOS regula la temperatura automáticamente.

¿Los modelos locales son gratis?

Los modelos abiertos como Gemma, Llama o Qwen se descargan gratis, bajo sus respectivas licencias. Las apps que los ejecutan pueden ser gratuitas, de pago o con opciones.