OpenAI ha identificato e vietato diversi account di ChatGPT collegati a un'operazione di influenza online segreta originaria dalla Russia.
Questa operazione mirava a diffondere disinformazione attraverso post sui social media generati dall'IA, che facevano parte di una campagna più ampia che includeva un sito web con lavori accademici attribuiti in modo errato e un 'indice di sovranità' che ritraeva la Russia in modo positivo mentre criticava le nazioni occidentali.
Sebbene OpenAI non consenta l'accesso ai propri modelli in Russia, l'uso di VPN ha permesso a questi account di operare senza essere rilevati. L'impatto immediato della campagna potrebbe essere stato limitato, ma OpenAI ha sottolineato l'importanza dell'infrastruttura stabilita da questi operatori, che potrebbe potenzialmente essere ampliata per futuri sforzi di disinformazione.
Questo incidente sottolinea i rischi associati alle tecnologie IA sfruttate per influenzare e le sfide nel monitorare e regolare tali attività.