Apple ведет переговоры с PrismML, стартапом из Силиконовой долины, который успешно сжал AI-модели для работы на iPhone, уменьшив размер моделей с примерно 54 ГБ до менее 4 ГБ. Этот прорыв позволяет всем 27 миллиардам параметров модели функционировать на устройствах, таких как iPhone 15.
Генеральный директор PrismML, Бабак Хасиби, сообщил, что Apple в настоящее время оценивает скорость, энергоэффективность и производительность технологии. Переговоры находятся на ранней стадии, и хотя результат неопределен, прогресс уже достигнут.
Это развитие особенно актуально, поскольку Apple стремится повысить конкурентоспособность Siri по сравнению с AI-ассистентами от OpenAI и Anthropic, одновременно сохраняя обработку пользовательских данных на устройстве для решения вопросов конфиденциальности.
Возможность выполнения более сложных AI-задач локально может привести к улучшениям в таких функциях, как вычислительная фотография и мониторинг здоровья, которые зависят от чувствительных личных данных. Однако существует компромисс в производительности, так как сжатые модели могут потерять некоторую точность.
Аналитики отметили, что хотя эта технология может снизить потребность в обширных облачных ресурсах, она не устраняет спрос на чипы полностью; скорее, она может изменить спрос с дата-центров на персональные устройства. Последствия для спроса на чипы значительны, поскольку улучшения в эффективности AI могут изменить ландшафт требований к памяти чипов.
В целом, если инициатива будет успешной, это может укрепить AI-возможности Apple, одновременно подчеркивая ее приверженность конфиденциальности пользователей и интеграции устройств.