OpenAI a identifié et interdit plusieurs comptes ChatGPT liés à une opération d'influence en ligne secrète provenant de Russie.
Cette opération visait à diffuser de la désinformation par le biais de publications sur les réseaux sociaux générées par l'IA, qui faisaient partie d'une campagne plus large incluant un site web présentant des travaux académiques mal attribués et un 'indice de souveraineté' dépeignant la Russie de manière positive tout en critiquant les nations occidentales.
Bien qu'OpenAI n'autorise pas l'accès à ses modèles en Russie, l'utilisation de VPN a permis à ces comptes d'opérer sans être détectés. L'impact immédiat de la campagne a pu être limité, mais OpenAI a souligné l'importance de l'infrastructure établie par ces opérateurs, qui pourrait potentiellement être étendue pour de futures efforts de désinformation.
Cet incident souligne les risques associés à l'exploitation des technologies d'IA pour l'influence et les défis liés à la surveillance et à la régulation de telles activités.