21 сентября 2026 года OpenAI опубликовала набор предложений, направленных на установление международных стандартов для безопасного развития передового искусственного интеллекта. Компания подчеркнула необходимость исследований согласованности, чтобы гарантировать, что системы ИИ соответствуют человеческим ценностям и остаются управляемыми.
В блоге OpenAI было отмечено значение рекурсивного самоулучшения (RSI), которое позволяет моделям ИИ автономно улучшать себя, вызывая опасения по поводу потенциальной потери контроля над этими технологиями.
Компания призвала к сотрудничеству с существующими институтами безопасности ИИ по всему миру и рекомендовала, чтобы технические стандарты сосредоточились на моделях передового ИИ и управлении рисками для автоматизированных исследователей ИИ.
OpenAI предостерегла, что стремление к полностью автономному RSI без адекватных мер безопасности может привести к тому, что люди потеряют контроль над развитием ИИ. Это заявление сделано на фоне аналогичных предложений от конкурирующей компании Anthropic, отражая более широкий ответ отрасли на предупреждения о потенциальных рисках ИИ.
Дебаты обострились после отставки Джейкоба Кокса из Anthropic и OpenAI, где он выразил опасения по поводу подхода отрасли к безопасности ИИ.