A OpenAI identificou e baniu várias contas do ChatGPT ligadas a uma operação de influência online secreta originária da Rússia.
Esta operação tinha como objetivo disseminar desinformação por meio de postagens em redes sociais geradas por IA, que faziam parte de uma campanha mais ampla que incluía um site com trabalhos acadêmicos mal atribuídos e um 'índice de soberania' que retratava a Rússia de forma positiva enquanto criticava nações ocidentais.
Embora a OpenAI não permita o acesso aos seus modelos na Rússia, o uso de VPNs permitiu que essas contas operassem sem serem detectadas. O impacto imediato da campanha pode ter sido limitado, mas a OpenAI enfatizou a importância da infraestrutura estabelecida por esses operadores, que poderia potencialmente ser ampliada para futuros esforços de desinformação.
Este incidente ressalta os riscos associados às tecnologias de IA sendo exploradas para influência e os desafios em monitorar e regular tais atividades.