Представитель Ро Ханна собирается представить значимый законопроект, направленный на регулирование искусственного интеллекта, отражая растущую тревогу среди законодателей и лидеров отрасли по поводу потенциальных опасностей технологий ИИ.
Законопроект 'Закон о человеческом контроле над ИИ' предлагает строгие стандарты ответственности и запрет на рекурсивный саморазвивающийся ИИ до тех пор, пока правительство не сможет внедрить необходимые меры безопасности. Ханна подчеркнул экзистенциальные риски, связанные с ИИ, заявив, что существует 'риск цивилизационного вымирания', если технологии не будут должным образом контролироваться.
Законопроект создаст новое федеральное агентство, ответственное за надзор за ИИ-моделями крупных компаний, таких как OpenAI, Anthropic, Google DeepMind и xAI, сосредоточив внимание на правилах безопасности, лицензировании и постоянном тестировании.
Кроме того, он потребует независимых аудиторов в передовых лабораториях и введет юридические санкции за сбои, связанные с ИИ, включая уголовные обвинения за действия, которые ставят под угрозу системы безопасности. Этот законопроект является частью более широкого движения, направленного на то, чтобы развитие ИИ руководствовалось соображениями безопасности, а не только корпоративными интересами.
Однако голосования по этому или другим законопроектам о безопасности ИИ не ожидается до после предстоящих промежуточных выборов.