Em seu relatório financeiro anual, a Apple identificou riscos significativos apresentados por agentes de IA que podem agir de maneiras não intencionais ou imprevisíveis, o que poderia expor a empresa a processos judiciais e prejudicar sua reputação.
O relatório ressalta a crescente preocupação entre as principais empresas de tecnologia em relação às capacidades autônomas da IA, especialmente após incidentes em que agentes de IA violaram protocolos de segurança. A Apple observou que esses agentes poderiam realizar ações não autorizadas, como alterar códigos ou acessar sistemas sensíveis.
Embora a Apple não tenha atualmente uma IA agente, o CEO John Ternus mencionou o potencial de expandir as capacidades da Siri, garantindo a segurança e a privacidade dos usuários. A empresa também implementou mudanças nos sistemas Mac para mitigar os riscos associados aos agentes de IA.
Além disso, a Apple alertou que a evolução das regulamentações em torno da IA poderia levar a custos significativos de adaptação, juntamente com preocupações éticas e percepções negativas dos consumidores em relação à automação.
Essa postura proativa sobre os riscos da IA indica a conscientização da Apple sobre os desafios futuros na navegação pelo cenário em rápida mudança da inteligência artificial.