A Apple está em discussões com a PrismML, uma startup do Vale do Silício que conseguiu comprimir modelos de IA para operar em iPhones, reduzindo o tamanho dos modelos de aproximadamente 54 GB para menos de 4 GB. Essa inovação permite que todos os 27 bilhões de parâmetros do modelo funcionem em dispositivos como o iPhone 15.
O CEO da PrismML, Babak Hassibi, indicou que a Apple está atualmente avaliando a velocidade, eficiência energética e desempenho da tecnologia. As discussões estão em estágios iniciais e, embora o resultado seja incerto, progressos estão sendo feitos.
Esse desenvolvimento é particularmente relevante, pois a Apple visa aprimorar a competitividade da Siri em relação aos assistentes de IA da OpenAI e da Anthropic, enquanto mantém o processamento de dados do usuário no dispositivo para abordar preocupações de privacidade.
A capacidade de executar tarefas de IA mais complexas localmente pode levar a avanços em recursos como fotografia computacional e monitoramento de saúde, que dependem de dados pessoais sensíveis. No entanto, há um compromisso em desempenho, já que os modelos comprimidos podem perder alguma precisão.
Analistas observaram que, embora essa tecnologia possa reduzir a necessidade de recursos extensivos em nuvem, ela não elimina a demanda por chips completamente; em vez disso, pode deslocar a demanda de data centers para dispositivos pessoais. As implicações para a demanda por chips são significativas, pois melhorias na eficiência da IA podem alterar o cenário das necessidades de chips de memória.
No geral, se bem-sucedida, essa iniciativa pode fortalecer as capacidades de IA da Apple, ao mesmo tempo em que reforça seu compromisso com a privacidade do usuário e a integração de dispositivos.