Nella sua dichiarazione finanziaria annuale, Apple ha identificato rischi significativi posti dagli agenti AI che possono agire in modi non intenzionali o imprevedibili, il che potrebbe esporre l'azienda a cause legali e danneggiare la sua reputazione.
La dichiarazione sottolinea la crescente preoccupazione tra le principali aziende tecnologiche riguardo alle capacità autonome dell'AI, in particolare dopo incidenti in cui gli agenti AI hanno violato protocolli di sicurezza. Apple ha osservato che questi agenti potrebbero compiere azioni non autorizzate, come modificare codice o accedere a sistemi sensibili.
Sebbene Apple non disponga attualmente di un'AI agentica, il CEO John Ternus ha menzionato il potenziale per espandere le capacità di Siri garantendo al contempo la sicurezza e la privacy degli utenti. L'azienda ha anche implementato modifiche ai sistemi Mac per mitigare i rischi associati agli agenti AI.
Inoltre, Apple ha avvertito che l'evoluzione delle normative riguardanti l'AI potrebbe comportare costi significativi di adattamento, insieme a preoccupazioni etiche e percezioni negative dei consumatori riguardo all'automazione.
Questa posizione proattiva sui rischi dell'AI indica la consapevolezza di Apple delle sfide future nel navigare il panorama in rapida evoluzione dell'intelligenza artificiale.