Город Балтимор стал первым крупным городом США, который подал иск против компании Elon Musk's xAI из-за проблем с генератором изображений Grok. Мэр Балтимора Брендон Скотт заявил, что глубокие фейки, создаваемые с помощью Grok, могут иметь травматические последствия для жертв. Он подчеркнул, что технологии, позволяющие сексуальную эксплуатацию детей, недопустимы.
В иске утверждается, что xAI нарушила законы о защите прав потребителей города и занималась обманом, рекламируя Grok и X (ранее известный как Twitter) как безопасные для пользователей. В частности, в иске упоминается тренд "put her in a bikini", который побуждал пользователей Grok создавать обнаженные изображения других людей.
Мускам, который контролирует SpaceX и является CEO Tesla, также упрекают в том, что он поддержал этот тренд, опубликовав изображение, созданное с помощью Grok. Балтимор требует максимальных штрафов и изменения в работе платформ, чтобы остановить создание неприемлемого контента.
В отчете, опубликованном Internet Watch Foundation, говорится, что девочки составляют 97% жертв незаконных сексуализированных изображений, созданных с помощью ИИ. Иск против xAI может стать важным прецедентом в борьбе с использованием технологий для создания неприемлемого контента