В эссе, опубликованном в субботу, Дарио Амодеи подчеркнул необходимость замедлить темпы развития моделей в компаниях по разработке искусственного интеллекта, чтобы приоритизировать безопасность.
Он изложил трехступенчатый план, который включает предоставление третьим сторонам доступа для проверки практик безопасности, поощрение сотрудничества между компаниями ИИ в демократических странах для установления стандартов безопасности и содействие диалогу между демократическими и авторитарными правительствами.
Призыв Амодеи к более осознанному подходу последовал за недавней отставкой одного из исследователей Anthropic, который выразил опасения по поводу экзистенциальных рисков, связанных с ИИ. Хотя Амодеи признал, что некоторые аспекты его плана могут быть сложными для реализации, он считает, что важно потратить время на согласование технологий ИИ с человеческими ценностями.
Его взгляды получили поддержку от известных фигур в отрасли, включая Сэма Альтмана из OpenAI и Илона Маска, которые оба признали важность регулирования темпов разработки ИИ.
Позиция Амодеи отражает растущий консенсус среди исследователей о том, что, хотя ИИ имеет потенциал значительно улучшить человеческую жизнь, связанные с ним риски должны быть тщательно управляемы, чтобы избежать катастрофических последствий.