OpenAI hat mehrere ChatGPT-Konten identifiziert und gesperrt, die mit einer verdeckten Online-Einflussoperation aus Russland verbunden sind.
Diese Operation hatte zum Ziel, Desinformation durch KI-generierte Beiträge in sozialen Medien zu verbreiten, die Teil einer umfassenderen Kampagne waren, die eine Website umfasste, die falsch zugeordnete akademische Arbeiten und einen 'Souveränitätsindex' präsentierte, der Russland positiv darstellte und westliche Nationen kritisierte.
Obwohl OpenAI den Zugang zu seinen Modellen in Russland nicht gestattet, ermöglichten VPNs diesen Konten, unentdeckt zu operieren. Die unmittelbaren Auswirkungen der Kampagne könnten begrenzt gewesen sein, aber OpenAI betonte die Bedeutung der Infrastruktur, die von diesen Betreibern geschaffen wurde, die potenziell für zukünftige Desinformationsbemühungen skaliert werden könnte.
Dieser Vorfall verdeutlicht die Risiken, die mit der Ausnutzung von KI-Technologien für Einflussnahme verbunden sind, sowie die Herausforderungen bei der Überwachung und Regulierung solcher Aktivitäten.