В прошлом месяце мир финансов и технологий столкнулся с серьезной угрозой в виде модели Mythos от компании Anthropic, которая обнаружила тысячи ранее неизвестных уязвимостей в программном обеспечении. Несмотря на то, что Anthropic ограничила доступ к Mythos лишь нескольким крупным компаниям, таким как Apple и JPMorgan Chase, это не остановило волну паники среди руководителей и политиков.
Эксперты по кибербезопасности утверждают, что аналогичные уязвимости можно было найти и с помощью существующих моделей, таких как те, что предлагает OpenAI. Бен Харрис, CEO компании watchTowr Labs, отметил, что многие уязвимости, выявленные Mythos, могут быть воспроизведены с помощью публичных моделей.
Это подчеркивает, что угроза киберпреступности, усиленная искусственным интеллектом, уже существует. Дарио Амодеи, CEO Anthropic, выразил опасения по поводу увеличения числа уязвимостей и потенциального ущерба от атак на критически важные учреждения, такие как школы и больницы.
В то же время, Klaudia Kloc, CEO Vidoc, добавила, что текущие модели уже способны находить уязвимости в большом масштабе, что вызывает серьезные опасения. Исследователи из AISLE также подтвердили, что многие результаты Mythos можно воспроизвести с помощью более дешевых моделей, что указывает на важность масштабирования и координации.
В условиях, когда киберугрозы становятся все более актуальными, компании и регуляторы испытывают давление, чтобы защитить свои системы от новых атак. Однако, как отметил Джастин Херринг, партнер юридической фирмы Mayer Brown, инструменты для управления уязвимостями пока не успевают за ростом их числа.
Это создает ситуацию, когда уязвимости становятся более доступными для злоумышленников, что увеличивает риск атак на финансовые учреждения и другие важные объекты. В конечном итоге, несмотря на усилия по разработке средств защиты, преимущество в этой борьбе пока остается на стороне атакующих (ключевые цифры: 5.5, 5.5, 4.6)