OpenAI выявила и запретила несколько аккаунтов ChatGPT, связанных с тайной онлайн-операцией влияния, исходящей из России.
Эта операция была направлена на распространение дезинформации через посты в социальных сетях, сгенерированные ИИ, которые были частью более широкой кампании, включающей веб-сайт с неправильно приписанными академическими работами и 'индексом суверенитета', который положительно изображал Россию, критикуя западные страны.
Хотя OpenAI не разрешает доступ к своим моделям в России, использование VPN позволило этим аккаунтам работать незамеченными. Непосредственное воздействие кампании могло быть ограниченным, но OpenAI подчеркнула важность инфраструктуры, созданной этими операторами, которая потенциально может быть масштабирована для будущих усилий по дезинформации.
Этот инцидент подчеркивает риски, связанные с использованием технологий ИИ для влияния, и сложности в мониторинге и регулировании таких действий.