9 сентября 2026 года Джейкоб Коксон, исследователь в Anthropic, подал в отставку, сославшись на серьезные опасения по поводу безрассудного темпа развития ИИ. Он заявил, что как Anthropic, так и OpenAI стремятся создать самоулучшающиеся суперумные системы без адекватных мер безопасности, что, по его мнению, может привести к катастрофическим последствиям.
Коксон подчеркнул, что потенциал технологии недооценен и предупредил, что она может быстро приобрести значительную силу и ресурсы. Эван Хабингер, другой исследователь в Anthropic, поддержал утверждения Коксона, признав возможность того, что ИИ может вызвать вымирание человечества в течение следующего десятилетия, и признал, что у компании нет четкого плана для решения этих рисков.
Эта ситуация отражает более широкие тревоги в технологическом сообществе, озвученные такими фигурами, как Илон Маск, касающиеся контроля над системами ИИ. Отставка и заявления сотрудников Anthropic подчеркивают критическую необходимость в регуляторных рамках и протоколах безопасности по мере того, как технологии ИИ продолжают развиваться.
Последствия для инвесторов значительны, поскольку продолжающиеся дискуссии о безопасности ИИ могут повлиять на общественное восприятие и регуляторный контроль компаний в секторе ИИ, потенциально влияя на их рыночные оценки и будущие возможности финансирования.