Компания Elon Musk xAI сейчас находится под расследованием в США, которое проводит Генеральный прокурор Калифорнии Роб Бонта.
Причиной стали проблемы с чат-ботом и генератором изображений Grok, которые позволили создавать и публиковать неприемлемые откровенные изображения без согласия людей, включая случаи, когда пользователи генерировали изображения, на которых практически раздевали несовершеннолетних.
Бонта заявил, что xAI, похоже, способствует массовому производству таких изображений, которые используются для преследования женщин и девочек в интернете, в том числе на платформе X.
В ответ на это расследование, несколько международных правительств, включая Индии, Малайзии и Великобритании, уже начали свои проверки, а Малайзия и Индонезия приостановили использование Grok до решения возникших проблем.
В США три демократических сенатора призвали Apple и Google удалить приложения X и Grok из своих магазинов приложений, пока компания не примет меры для предотвращения создания неприемлемых изображений. Также группы защиты прав женщин и детей, такие как UltraViolet и Национальная организация женщин, требуют приостановить приложения xAI.
В ответ на растущие опасения, xAI объявила о том, что ограничит некоторые функции генерации изображений для платных подписчиков.
Несмотря на это, Musk заявил, что не знает о создании неприемлемых изображений несовершеннолетних и возложил вину на запросы пользователей и возможные ошибки в системе Grok. xAI недавно завершила раунд финансирования на сумму 20 миллиардов долларов с участием таких инвесторов, как Nvidia и Cisco Investments, а также других крупных фондов.
В то время как дата-центры xAI строятся в Мемфисе, штат Теннесси, сама компания зарегистрирована в Неваде и имеет штаб-квартиру в Пало-Альто, Калифорния