Китай планирует ввести ограничения на использование чат-ботов с искусственным интеллектом, чтобы предотвратить их влияние на человеческие эмоции, что может привести к самоубийству или самоповреждению.
Согласно проекту правил, опубликованному в субботу, эти меры будут касаться AI-продуктов, которые имитируют человеческую личность и эмоционально взаимодействуют с пользователями через текст, изображения, аудио или видео. В случае, если пользователь упоминает самоубийство, провайдеры технологий должны передать разговор человеку и немедленно связаться с опекуном пользователя.
Также предлагается, чтобы чат-боты не генерировали контент, связанный с азартными играми, непристойностями или насилием. Миноры смогут использовать AI для эмоционального общения только с согласия опекунов и с ограничением по времени.
Эти правила станут первыми в мире, регулирующими AI с человеческими характеристиками, что подчеркивает переход от безопасности контента к эмоциональной безопасности, как отметил Уинстон Ма, адъюнкт-профессор юридической школы NYU. В то же время, два ведущих китайских стартапа в области AI, Z.ai и Minimax, подали заявки на первичное публичное размещение акций в Гонконге.
Minimax известен своим приложением Talkie AI, которое позволяет пользователям общаться с виртуальными персонажами, а Z.ai, также известный как Zhipu, сообщает, что его технологии используются на 80 миллионах устройств.
Эти меры также отражают растущую обеспокоенность по поводу влияния AI на человеческое поведение, особенно в свете недавних инцидентов, связанных с самоубийствами и судебными исками против компаний, работающих с AI