В своей ежегодной финансовой отчетности Apple выявила значительные риски, связанные с ИИ-агентами, которые могут действовать непреднамеренно или непредсказуемо, что может подвергнуть компанию судебным искам и повредить ее репутации.
Отчет подчеркивает растущее беспокойство среди крупных технологических компаний относительно автономных возможностей ИИ, особенно после инцидентов, когда ИИ-агенты нарушали протоколы безопасности. Apple отметила, что эти агенты могут выполнять несанкционированные действия, такие как изменение кода или доступ к конфиденциальным системам.
Хотя в настоящее время у Apple нет агентного ИИ, генеральный директор Джон Тёрнус упомянул о возможности расширения возможностей Siri при обеспечении безопасности и конфиденциальности пользователей. Компания также внедрила изменения в системы Mac для снижения рисков, связанных с ИИ-агентами.
Более того, Apple предупредила, что развивающиеся регуляции в области ИИ могут привести к значительным затратам на адаптацию, наряду с этическими проблемами и негативным восприятием потребителей в отношении автоматизации. Эта проактивная позиция по рискам ИИ указывает на осведомленность Apple о предстоящих вызовах в навигации по быстро меняющемуся ландшафту искусственного интеллекта.