Le 22 octobre 2026, METR et Redwood Research ont annoncé les résultats d'un examen pilote du système de surveillance interne d'OpenAI, qui a eu lieu du 21 juillet au 11 août. Pendant cette période, les évaluateurs ont eu un accès contrôlé au code source interne et à la documentation d'OpenAI.
Ils ont identifié plusieurs vulnérabilités, dont une qui pourrait entraver la surveillance de nombreuses actions. OpenAI a depuis résolu ces vulnérabilités, mettant en avant son engagement envers la sécurité et la transparence. Les évaluateurs ont noté que leurs conclusions seraient partagées dans un post public de haut niveau, avec un rapport plus détaillé attendu dans le futur.
Cette initiative s'aligne sur l'engagement antérieur du PDG d'OpenAI, Sam Altman, à fournir aux évaluateurs indépendants un accès significatif à l'entreprise, un mouvement qui suit une tendance plus large dans l'industrie de l'IA vers des évaluations par des tiers.
L'implication d'évaluateurs indépendants soulève des questions sur les structures de financement et de reporting dans le secteur de l'IA, qui a historiquement connu une supervision limitée. Cet examen pilote souligne l'importance de la sécurité dans le développement de l'IA et pourrait établir un précédent pour de futures collaborations et cadres réglementaires.