El Rep. Ro Khanna está a punto de presentar un proyecto de ley significativo destinado a regular la inteligencia artificial, reflejando la creciente ansiedad entre los legisladores y líderes de la industria sobre los peligros potenciales de la tecnología de IA.
El 'Human Control Over AI Act' propone estándares de responsabilidad estrictos y una prohibición de la IA auto-mejorada recursiva hasta que el gobierno pueda implementar las medidas de seguridad necesarias. Khanna enfatizó los riesgos existenciales asociados con la IA, afirmando que existe un 'riesgo de extinción civilizacional' si la tecnología no se controla adecuadamente.
El proyecto de ley establecería una nueva agencia federal responsable de supervisar los modelos de IA de grandes empresas como OpenAI, Anthropic, Google DeepMind y xAI, centrándose en regulaciones de seguridad, licencias y pruebas continuas.
Además, requeriría auditores independientes en laboratorios de vanguardia e impondría sanciones legales por fallos relacionados con la IA, incluyendo cargos criminales por acciones que comprometan los sistemas de seguridad.
Esta legislación es parte de un movimiento más amplio para asegurar que el desarrollo de la IA esté guiado por consideraciones de seguridad y no únicamente por intereses corporativos. Sin embargo, no se anticipan votos sobre esta u otras propuestas de seguridad de IA hasta después de las próximas elecciones de medio término.