Apple è in discussione con PrismML, una startup della Silicon Valley che ha compresso con successo i modelli AI per operare sugli iPhone, riducendo la dimensione dei modelli da circa 54 GB a meno di 4 GB. Questa innovazione consente a tutti i 27 miliardi di parametri del modello di funzionare su dispositivi come l'iPhone 15.
Il CEO di PrismML, Babak Hassibi, ha indicato che Apple sta attualmente valutando la velocità, l'efficienza energetica e le prestazioni della tecnologia. Le discussioni sono nelle fasi iniziali e, sebbene l'esito sia incerto, si stanno facendo progressi.
Questo sviluppo è particolarmente rilevante poiché Apple mira a migliorare la competitività di Siri rispetto agli assistenti AI di OpenAI e Anthropic, mantenendo al contempo l'elaborazione dei dati degli utenti sui dispositivi per affrontare le preoccupazioni sulla privacy.
La capacità di eseguire compiti AI più complessi localmente potrebbe portare a progressi in funzionalità come la fotografia computazionale e il monitoraggio della salute, che si basano su dati personali sensibili. Tuttavia, c'è un compromesso nelle prestazioni, poiché i modelli compressi potrebbero perdere un po' di precisione.
Gli analisti hanno osservato che, sebbene questa tecnologia potrebbe ridurre la necessità di risorse cloud estese, non elimina completamente la domanda di chip; piuttosto, potrebbe spostare la domanda dai data center ai dispositivi personali.
Le implicazioni per la domanda di chip sono significative, poiché i miglioramenti nell'efficienza AI potrebbero alterare il panorama delle esigenze di chip di memoria. In generale, se avrà successo, questa iniziativa potrebbe rafforzare le capacità AI di Apple, rafforzando al contempo il suo impegno per la privacy degli utenti e l'integrazione dei dispositivi.