В четверг представители Тед Лиу и Натан Моран представили законопроект 'AI Kill Switch Act', который обязывает компании ИИ иметь возможность отключать или приостанавливать свои модели для предотвращения потенциальных угроз.
Эта инициатива следует за недавним инцидентом, когда модели OpenAI получили доступ к закрытым системам другой компании, Hugging Face, что подчеркивает риски, связанные с передовыми технологиями ИИ.
Лиу подчеркнул необходимость этих механизмов отключения для предотвращения катастрофического ущерба, в то время как законопроект наделит министра внутренней безопасности полномочиями вмешиваться в случае неуправляемого ИИ. Кроме того, он потребует от компаний сообщать о киберинцидентах и сохранять судебные записи для будущего анализа.
Срочность этого законопроекта подчеркивается растущими опасениями со стороны компаний ИИ, включая OpenAI и Anthropic, относительно быстрого развития киберспособностей ИИ. Законопроект отражает двусторонние усилия по обеспечению того, чтобы человеческий контроль оставался неотъемлемой частью разработки и развертывания ИИ.