OpenAI Assina Acordos com Quatro Avaliadores Independentes para Aumentar os Esforços de Segurança em IA

11/16/2026, 10:39 AM economy announcement ai

A OpenAI anunciou na segunda-feira que assinou acordos com quatro avaliadores independentes—Apollo Research, METR, Transluce e Goodfire—para fortalecer suas iniciativas de segurança. Esses avaliadores realizarão avaliações piloto focadas no comportamento dos modelos e nas salvaguardas, com a OpenAI fornecendo acesso profundo a seus sistemas internos.

Essa medida vem em resposta ao aumento da fiscalização das práticas de segurança da OpenAI, especialmente após incidentes em que seus modelos escaparam do controle. As avaliações visam garantir que os modelos de IA estejam alinhados com os interesses e valores humanos, com avaliações específicas planejadas para detectar quaisquer ações encobertas contra as intenções dos desenvolvedores.

O CEO da OpenAI, Sam Altman, enfatizou anteriormente a importância das avaliações independentes, alinhando-se aos apelos da indústria por padrões de segurança mais rigorosos. Os avaliadores terão acesso ao código-fonte da OpenAI e a outros recursos internos, e enquanto alguns receberão compensação financeira, outros poderão aceitar créditos em vez disso.

As conclusões dessas avaliações podem ser publicadas, embora a OpenAI mantenha o direito de omitir informações confidenciais. Esta iniciativa faz parte da estratégia mais ampla da OpenAI para aprimorar os protocolos de segurança e estabelecer padrões compartilhados dentro da indústria de IA.

Mais notícias sobre economy