En una publicación reciente en X, Sam Altman articuló la necesidad de un enfoque estructurado para la seguridad de la IA, abogando por regulaciones federales consistentes para prevenir avances imprudentes en la tecnología de IA. Destacó dos riesgos significativos: la posible pérdida de control sobre la IA y la concentración de poder dentro de una sola entidad.
Esto sigue a un llamado de Dario Amodei de Anthropic para que las empresas de IA desaceleren su ritmo de desarrollo, sugiriendo un plan de tres pasos que incluye evaluaciones externas y el establecimiento de estándares de seguridad comunes. Altman apoyó estas ideas pero aclaró que 'desacelerar' no equivale a detener el progreso.
La urgencia de estas discusiones se subraya por las crecientes preocupaciones de seguridad dentro de la industria, particularmente después de que un investigador de Anthropic renunciara por la percepción de negligencia respecto a los riesgos de la IA.
A medida que los legisladores en Washington se apresuran a abordar estos problemas, el telón de fondo de las inminentes OPI de Anthropic y OpenAI añade más complejidad a la situación. El mercado reaccionó negativamente a estos desarrollos, reflejando la aprensión de los inversores sobre el futuro panorama regulatorio y su impacto en el sector de la IA.