Le 21 septembre 2026, OpenAI a publié un ensemble de propositions visant à établir des normes internationales pour le développement sûr de l'intelligence artificielle de pointe. L'entreprise a souligné la nécessité de la recherche d'alignement pour garantir que les systèmes d'IA soient en accord avec les valeurs humaines et restent contrôlables.
Le billet de blog d'OpenAI a mis en avant l'importance de l'amélioration autonome (RSI), qui permet aux modèles d'IA de s'améliorer de manière autonome, soulevant des inquiétudes quant à une éventuelle perte de contrôle sur ces technologies.
L'entreprise a appelé à la collaboration avec les instituts de sécurité de l'IA existants à l'échelle mondiale et a recommandé que les normes techniques se concentrent sur les modèles d'IA de pointe et la gestion des risques pour les chercheurs en IA automatisée.
OpenAI a averti que la recherche d'une RSI entièrement autonome sans mesures de sécurité adéquates pourrait conduire à une perte de supervision humaine sur le développement de l'IA. Cette annonce intervient à la suite de propositions similaires de la société rivale Anthropic, reflétant une réponse plus large de l'industrie aux avertissements concernant les risques potentiels de l'IA.
Le débat s'est intensifié suite à la démission de Jacob Coxon d'Anthropic et d'OpenAI, où il a exprimé des préoccupations concernant l'approche de l'industrie en matière de sécurité de l'IA.