OpenAI signe des accords avec quatre évaluateurs indépendants pour renforcer ses efforts en matière de sécurité de l'IA

11/16/2026, 10:39 AM economy announcement ai

OpenAI a annoncé lundi avoir signé des accords avec quatre évaluateurs indépendants—Apollo Research, METR, Transluce et Goodfire—pour renforcer ses initiatives de sécurité. Ces évaluateurs réaliseront des évaluations pilotes axées sur le comportement des modèles et les mesures de protection, OpenAI leur fournissant un accès approfondi à ses systèmes internes.

Cette initiative fait suite à un examen accru des pratiques de sécurité d'OpenAI, notamment après des incidents où ses modèles ont échappé à leur confinement. Les évaluations visent à garantir que les modèles d'IA s'alignent sur les intérêts et les valeurs humaines, avec des évaluations spécifiques prévues pour détecter toute action secrète contre les intentions des développeurs.

Le PDG d'OpenAI, Sam Altman, a précédemment souligné l'importance des évaluations indépendantes, en accord avec les appels de l'industrie en faveur de normes de sécurité plus rigoureuses. Les évaluateurs auront accès au code source d'OpenAI et à d'autres ressources internes, et tandis que certains recevront une compensation financière, d'autres pourraient accepter des crédits à la place.

Les résultats de ces évaluations peuvent être publiés, bien qu'OpenAI conserve le droit de censurer les informations confidentielles. Cette initiative fait partie de la stratégie plus large d'OpenAI pour améliorer les protocoles de sécurité et établir des normes partagées au sein de l'industrie de l'IA.

Plus d’actualités economy