Недавний отчет от Tech Transparency Project выявил наличие множества приложений, использующих искусственный интеллект для создания обнаженных изображений людей, в магазинах приложений Apple и Google Play. В частности, было обнаружено 55 таких приложений в Google Play и 47 в App Store.
После обращения от TPP и CNBC, Apple удалила 28 приложений, но некоторые из них были восстановлены после внесения изменений разработчиками. В отчете подчеркивается, что эти приложения могут превращать обычные фотографии женщин в сексуализированные образы без их согласия. Katie Paul, директор TPP, отметила, что такие приложения явно созданы для несанкционированной сексуализации людей.
CNBC также сообщила о случаях, когда фотографии женщин использовались для создания глубоких фейков без их согласия, что поднимает серьезные вопросы о безопасности пользователей. В ответ на критику, xAI, разработчик Grok AI, признал наличие недостатков в своих системах защиты. Европейская комиссия начала расследование в отношении xAI из-за распространения непристойного контента.
В то же время, демократические сенаторы призвали Apple и Google удалить X из своих магазинов приложений, указывая на нарушение условий распространения. Оба гиганта заявляют о своей приверженности безопасности пользователей, однако факты свидетельствуют о том, что они не всегда соблюдают собственные правила, что вызывает сомнения в их надежности как платформ для приложений