Один из официальных лиц США сообщил, что модель Mythos от Anthropic успешно обнаружила уязвимости в секретных правительственных системах всего за несколько часов в рамках инициативы по тестированию под названием Project Glasswing, целью которой является улучшение кибербезопасности.
Это откровение, упомянутое сенатором-демократом Марком Уорнером, подчеркивает потенциальные риски, которые представляют собой передовые технологии ИИ для общественной безопасности и национальной безопасности. Несмотря на сотрудничество, напряженность между Anthropic и администрацией Трампа возросла, особенно в отношении использования ИИ в армии.
Администрация ввела ограничения на модели Anthropic, включая недавнюю директиву, запрещающую иностранным гражданам доступ к последним версиям. Anthropic соблюдает эти требования, отключив эти модели для всех клиентов, хотя компания оспаривает необходимость таких мер.
Коалиция из более чем 100 экспертов по кибербезопасности призвала администрацию пересмотреть свою директиву, утверждая, что ограничение доступа к эффективным инструментам кибербезопасности может непреднамеренно помочь противникам США, особенно по мере их продвижения в собственных технологических возможностях.