OpenAI ha identificado y prohibido varias cuentas de ChatGPT vinculadas a una operación encubierta de influencia en línea originada en Rusia.
Esta operación tenía como objetivo difundir desinformación a través de publicaciones en redes sociales generadas por inteligencia artificial, que formaban parte de una campaña más amplia que incluía un sitio web con trabajos académicos mal atribuidos y un 'índice de soberanía' que retrataba a Rusia de manera positiva mientras criticaba a las naciones occidentales.
Aunque OpenAI no permite el acceso a sus modelos en Rusia, el uso de VPN permitió que estas cuentas operaran sin ser detectadas. El impacto inmediato de la campaña puede haber sido limitado, pero OpenAI enfatizó la importancia de la infraestructura establecida por estos operadores, que podría potencialmente ser escalada para futuros esfuerzos de desinformación.
Este incidente subraya los riesgos asociados con las tecnologías de inteligencia artificial que son explotadas para influir y los desafíos en la supervisión y regulación de tales actividades.