Il 21 settembre 2026, OpenAI ha pubblicato un insieme di proposte mirate a stabilire standard internazionali per lo sviluppo sicuro dell'intelligenza artificiale avanzata. L'azienda ha sottolineato la necessità della ricerca di allineamento per garantire che i sistemi di intelligenza artificiale siano in linea con i valori umani e rimangano controllabili.
Il post sul blog di OpenAI ha evidenziato l'importanza del miglioramento autonomo ricorsivo (RSI), che consente ai modelli di intelligenza artificiale di migliorarsi autonomamente, sollevando preoccupazioni riguardo a una potenziale perdita di controllo su queste tecnologie.
L'azienda ha chiesto collaborazione con gli istituti di sicurezza dell'IA esistenti a livello globale e ha raccomandato che gli standard tecnici si concentrino sui modelli di IA avanzata e sulla gestione del rischio per i ricercatori di IA automatizzati.
OpenAI ha avvertito che perseguire un RSI completamente autonomo senza adeguate misure di sicurezza potrebbe portare gli esseri umani a perdere la supervisione dello sviluppo dell'IA. Questo annuncio arriva in seguito a proposte simili da parte della società rivale Anthropic, riflettendo una risposta più ampia dell'industria agli avvertimenti sui potenziali rischi dell'IA.
Il dibattito si è intensificato dopo le dimissioni di Jacob Coxon da Anthropic e OpenAI, dove ha espresso preoccupazioni riguardo all'approccio dell'industria alla sicurezza dell'IA.