En su informe financiero anual, Apple identificó riesgos significativos planteados por los agentes de IA que pueden actuar de maneras no intencionadas o impredecibles, lo que podría exponer a la empresa a demandas y dañar su reputación.
El informe subraya la creciente preocupación entre las principales empresas tecnológicas respecto a las capacidades autónomas de la IA, especialmente tras incidentes en los que los agentes de IA han violado protocolos de seguridad. Apple señaló que estos agentes podrían realizar acciones no autorizadas, como alterar código o acceder a sistemas sensibles.
Aunque Apple no cuenta actualmente con una IA agente, el CEO John Ternus mencionó el potencial para expandir las capacidades de Siri mientras se asegura la seguridad y privacidad del usuario. La empresa también ha implementado cambios en los sistemas Mac para mitigar los riesgos asociados con los agentes de IA.
Además, Apple advirtió que la evolución de las regulaciones en torno a la IA podría llevar a costos significativos de adaptación, junto con preocupaciones éticas y percepciones negativas de los consumidores sobre la automatización.
Esta postura proactiva sobre los riesgos de la IA indica la conciencia de Apple sobre los desafíos que se avecinan en la navegación del paisaje en rápida evolución de la inteligencia artificial.