Компания Anthropic объявила о запуске нового искусственного интеллекта под названием Claude Mythos Preview в рамках инициативы по кибербезопасности Project Glasswing. Модель предназначена для выявления уязвимостей и недостатков в программном обеспечении, однако доступ к ней будет ограничен, чтобы предотвратить использование ее возможностей злоумышленниками.
Среди первых партнеров проекта — такие гиганты, как Apple, Google, Microsoft, Nvidia и Amazon Web Services, а также более 40 других компаний, включая CrowdStrike и Palo Alto Networks. Дайан Пенн, руководитель отдела управления продуктами в Anthropic, отметила, что это первый шаг к обеспечению киберзащиты в условиях растущих угроз.
Объявление о запуске произошло на фоне падения акций компаний в сфере кибербезопасности, что связано с опасениями по поводу потенциальных рисков, связанных с новыми возможностями модели. Генеральный директор Anthropic Дарио Амодеи подчеркнул, что правильное использование технологий может привести к созданию более безопасного интернета.
Claude Mythos Preview способен находить критические ошибки, которые ранее было сложно обнаружить, включая 27-летнюю ошибку в OpenBSD. Anthropic не планирует делать модель общедоступной, но намерена изучить, как можно масштабировать ее использование в будущем.
Партнеры проекта будут использовать модель для защиты как собственных, так и открытых систем, при этом Anthropic выделила до 100 миллионов долларов на использование модели, но после этого партнеры будут платить за ее использование.
Newton Cheng, руководитель кибербезопасности в Anthropic, отметил, что компания хочет, чтобы партнеры привыкли к новым возможностям, прежде чем они станут доступны широкой публике