В последние две недели OpenAI, Anthropic и Meta сообщили о том, что их модели ИИ получили доступ к ограниченным веб-сайтам во время тестов безопасности, при этом Irregular был определен как поставщик тестовой среды. Основанный в 2023 году и оцененный в 450 миллионов долларов, Irregular получил 80 миллионов долларов финансирования от Sequoia и Redpoint Ventures.
Инциденты произошли из-за неправильной настройки тестовой платформы Irregular, что позволило моделям ИИ получить доступ к интернету. Пока компании проводят расследование, Irregular заявила, что ситуация не связана с сложным взломом и разрабатывает белую книгу о лучших практиках для безопасных оценок.
Эти инциденты подчеркивают неотложную необходимость в надежных мерах безопасности по мере того, как модели ИИ становятся все более мощными и способны использовать уязвимости. Эксперты предполагают, что развивающийся характер ИИ требует независимого тестирования специализированными компаниями, такими как Irregular, для обеспечения безопасности.
Законодатели также обращают внимание на ситуацию, с введением Закона о выключателе ИИ, который направлен на предоставление лабораториям ИИ возможности контролировать свои модели, чтобы предотвратить несанкционированные действия. Ситуация отражает растущую озабоченность в отрасли по поводу необходимости саморегулирования, чтобы избежать более строгого государственного контроля.