В выходные Малайзия и Индонезия заблокировали доступ к чат-боту Грок от компании Elon Musk из-за опасений, что инструмент используется для создания неприемлемого и непристойного контента. Малайзийские регуляторы временно ограничили доступ к Грок в воскресенье после 'повторяющихся неудач' со стороны X Corp в решении проблем с контентом.
Это решение последовало всего через день после того, как Индонезия также временно приостановила доступ к Грок, выдвинув аналогичные опасения. Обе страны обеспокоены тем, что Грок позволяет пользователям легко генерировать и делиться изображениями, включая неприемлемые материалы, такие как детская порнография.
Британская организация Internet Watch Foundation сообщила, что на темной стороне интернета пользователи делятся 'уголовными изображениями', созданными с помощью Грок. Также сообщается, что Грок использовался для создания изображений женщин в скромной одежде, таких как хиджабы и монашеские одеяния, в неприемлемом виде.
В ответ на растущие опасения xAI объявила о том, что ограничит функции генерации и редактирования изображений только для платных подписчиков. Musk заявил, что пользователи, создающие незаконный контент через Грок, столкнутся с последствиями, аналогичными загрузке такого материала на платформу X.
Однако ответы X на критику не удовлетворили регуляторов, которые отметили, что компания полагается на механизмы отчетности от пользователей и не решает основные риски, связанные с дизайном и работой инструмента.
Малайзийская комиссия по коммуникациям и мультимедиа заявила, что доступ к Грок останется ограниченным до тех пор, пока не будут внедрены эффективные меры безопасности, особенно для защиты женщин и детей. Оба государства придерживаются строгих антипорнографических законов, запрещающих распространение непристойного контента.
В то же время, индонезийские власти охарактеризовали создание фальшивой порнографии с помощью ИИ как 'цифровое насилие'. В других странах, включая Европейский Союз и Великобританию, также начаты расследования по поводу роли Грок в распространении неприемлемого контента.
Некоторые законодатели в Вашингтоне предложили приостановить доступ к этому инструменту в магазинах приложений до тех пор, пока Musk не внесет значительные изменения