Генеральный директор Anthropic Дарио Амодеи предупредил о том, что искусственный интеллект создал узкое окно возможностей для технологических компаний, правительств и банков, чтобы исправить десятки тысяч уязвимостей программного обеспечения, выявленных их последней моделью Mythos.
Эта модель, представленная в прошлом месяце, обнаружила уязвимости, существующие на протяжении десятилетий в критически важном программном обеспечении. Амодеи отметил, что модели ИИ из Китая могут быть 'возможно, на 6-12 месяцев' позади продукта Anthropic, что дает 'примерно столько же времени' для устранения этих проблем.
Он также подчеркнул, что опасность заключается в значительном увеличении числа уязвимостей и финансовых потерь от программ-вымогателей, которые могут затронуть школы, больницы и банки. Anthropic ограничила доступ к Mythos лишь нескольким партнерским компаниям из-за опасений, что преступники или враждебные государства могут использовать эту технологию.
По словам Амодеи, масштаб потенциальных кибератак увеличивается с каждым новым поколением их моделей. Например, предыдущая модель Anthropic обнаружила около 20 уязвимостей в браузере Firefox, тогда как Mythos нашел почти 300, и общее количество уязвимостей теперь исчисляется десятками тысяч.
Большинство из них не были публично раскрыты, так как остаются неустраненными, и 'плохие парни воспользуются' ими, если они будут идентифицированы. Несмотря на тревожные сигналы, Амодеи и Джейми Даймон, генеральный директор JPMorgan Chase, выразили условный оптимизм, отметив, что если на эти вызовы ответить правильно, то можно создать 'лучший мир'.
Амодеи также высказался о необходимости регулирования ИИ, которое должно напоминать то, что делается в автомобильной промышленности, чтобы обеспечить безопасность потребителей и конкурентоспособность отрасли.
В рамках мероприятия Anthropic также объявила о расширении своей платформы финансовых услуг, включая 10 новых ИИ-агентов для инвестиционного банкинга и интеграцию с различными программами Microsoft Office