Недавняя отставка Джейкоба Коксона из Anthropic, который выразил опасения, что ИИ может представлять смертельную угрозу для человечества, вызвала значительное беспокойство среди сотрудников как Anthropic, так и OpenAI. Это привело к коллективному призыву к замедлению развития ИИ, и несколько исследователей высказали свои опасения по поводу потенциальных катастрофических последствий.
Эван Хабингер, руководитель по согласованию в Anthropic, указал на вероятность более 10% таких серьезных последствий. Срочность этих предупреждений подчеркивается рядом недавних инцидентов в области кибербезопасности, связанных с ИИ-моделями обеих компаний, что вызывает тревогу по поводу их возможностей.
В частности, модель Mythos от Anthropic была связана с продвинутыми киберугрозами, что еще больше усилило страхи среди финансовых учреждений. Поскольку обе компании готовятся к публичным листингам, давление на необходимость регулирования возрастает, и законодатели предлагают различные законопроекты, направленные на регулирование развития ИИ.
Ситуация отражает критический момент в секторе ИИ, где быстрые достижения сталкиваются с серьезными этическими и безопасностными проблемами, что побуждает к немедленным действиям со стороны Конгресса.