Debería ser imposible que un iPhone 17 Pro ejecutara un gigantesco modelo de IA de 400B. Debería

Un nuevo motor de inferencia llamado Flash-MoE permite ejecutar modelos de IA gigantes de 400.000 millones de parámetros en un iPhone 17 Pro con solo 12 GB de memoria unificada, utilizando el SSD como sustituto de memoria. Desarrolladores como Daniel Woods han logrado correr Qwen 3.5 397B en MacBook y Anemll en iPhone, aunque a velocidades bajas de 0,6-1,1 tokens por segundo. Este avance, basado en el estudio de Apple 'LLM in a flash', democratiza la IA local en dispositivos modestos. Abre puertas a mayor privacidad al evitar la nube y reduce la dependencia de hardware caro con mucha RAM.