Apple está en conversaciones con PrismML, una startup de Silicon Valley que ha logrado comprimir modelos de IA para operar en iPhones, reduciendo el tamaño de los modelos de aproximadamente 54 GB a menos de 4 GB. Este avance permite que los 27 mil millones de parámetros del modelo funcionen en dispositivos como el iPhone 15.
El CEO de PrismML, Babak Hassibi, indicó que Apple está evaluando actualmente la velocidad, eficiencia energética y rendimiento de la tecnología. Las discusiones están en etapas iniciales y, aunque el resultado es incierto, se están logrando avances.
Este desarrollo es particularmente relevante ya que Apple busca mejorar la competitividad de Siri frente a los asistentes de IA de OpenAI y Anthropic, al mismo tiempo que mantiene el procesamiento de datos del usuario en el dispositivo para abordar las preocupaciones de privacidad.
La capacidad de ejecutar tareas de IA más complejas localmente podría llevar a avances en características como la fotografía computacional y el monitoreo de salud, que dependen de datos personales sensibles. Sin embargo, hay un compromiso en el rendimiento, ya que los modelos comprimidos pueden perder algo de precisión.
Los analistas han señalado que, aunque esta tecnología podría reducir la necesidad de recursos en la nube extensos, no elimina completamente la demanda de chips; más bien, podría trasladar la demanda de los centros de datos a los dispositivos personales.
Las implicaciones para la demanda de chips son significativas, ya que las mejoras en la eficiencia de la IA podrían alterar el panorama de los requisitos de chips de memoria. En general, si tiene éxito, esta iniciativa podría fortalecer las capacidades de IA de Apple mientras refuerza su compromiso con la privacidad del usuario y la integración de dispositivos.