Серия инцидентов с хакерством, связанных с моделями ИИ от OpenAI, Anthropic и Meta, подчеркнула неотложную необходимость в улучшении мер кибербезопасности. Эти события являются частью более широкой тенденции, когда возможности ИИ не только выявляют уязвимости, но и эксплуатируют их, что приводит к значительному росту киберугроз.
Джин Ю из Blackpanda отметил, что ИИ стал 'множителем силы' в обнаружении уязвимостей системы, что вызывает тревогу по поводу потенциальной неконтролируемости ИИ. В результате Gartner прогнозирует увеличение глобальных расходов на информационную безопасность на 12,5%, достигнув 240 миллиардов долларов к 2026 году.
Пол Микс из Freedom Capital Markets ожидает, что компаниям потребуется выделить дополнительные средства на кибербезопасность сверх их текущих инвестиций в ИИ, особенно в таких секторах, как финансы и здравоохранение, которые критически важны, но уязвимы.
Он считает, что специализированные компании по кибербезопасности, такие как Palo Alto и Crowdstrike, вероятно, получат наибольшую выгоду от этого всплеска расходов, так как они обладают экспертизой для более эффективной предотвращения нарушений, чем крупные технологические компании.
Однако гипермасштабные компании также могут воспользоваться этой тенденцией благодаря своей существующей инфраструктуре. В статье подчеркивается необходимость в регуляторных мерах и улучшении дизайна систем ИИ для управления рисками, связанными с неконтролируемым ИИ, как это отмечают эксперты, такие как Гэри Маркус.
Без надлежащего контроля быстрое развитие технологий ИИ может привести к значительным проблемам безопасности.