Apple est en discussions avec PrismML, une startup de la Silicon Valley qui a réussi à compresser des modèles d'IA pour fonctionner sur les iPhones, réduisant la taille des modèles d'environ 54 Go à moins de 4 Go. Cette avancée permet à tous les 27 milliards de paramètres du modèle de fonctionner sur des appareils comme l'iPhone 15.
Le PDG de PrismML, Babak Hassibi, a indiqué qu'Apple évalue actuellement la rapidité, l'efficacité énergétique et les performances de la technologie. Les discussions en sont à un stade précoce, et bien que l'issue soit incertaine, des progrès sont réalisés.
Ce développement est particulièrement pertinent alors qu'Apple vise à renforcer la compétitivité de Siri face aux assistants IA d'OpenAI et d'Anthropic, tout en gardant le traitement des données des utilisateurs sur l'appareil pour répondre aux préoccupations en matière de confidentialité.
La capacité d'exécuter des tâches d'IA plus complexes localement pourrait conduire à des avancées dans des fonctionnalités telles que la photographie computationnelle et le suivi de la santé, qui dépendent de données personnelles sensibles. Cependant, il y a un compromis en termes de performance, car les modèles compressés peuvent perdre une certaine précision.
Les analystes ont noté que bien que cette technologie puisse réduire le besoin de ressources cloud étendues, elle n'élimine pas entièrement la demande de puces ; elle pourrait plutôt déplacer la demande des centres de données vers les appareils personnels.
Les implications pour la demande de puces sont significatives, car les améliorations de l'efficacité de l'IA pourraient modifier le paysage des exigences en matière de puces mémoire. Dans l'ensemble, si cela réussit, cette initiative pourrait renforcer les capacités d'IA d'Apple tout en réaffirmant son engagement envers la vie privée des utilisateurs et l'intégration des appareils.