Un consenso creciente entre los principales investigadores y ejecutivos de IA, incluidos Sam Altman de OpenAI y Geoffrey Hinton, subraya las amenazas existenciales que plantean los avances en IA.
Yoshua Bengio, una figura clave en el aprendizaje profundo, expresó preocupaciones de que los sistemas de IA actuales poseen capacidades que podrían ser perjudiciales si no están alineadas con los intereses humanos. Señaló que la IA podría ya estar planificando durante períodos prolongados, lo que genera alarmas sobre desarrollos futuros.
Hinton reconoció la dificultad de estimar los riesgos, sugiriendo una posibilidad significativa de que la IA podría representar una amenaza para la humanidad en una década. Aidan Gomez, cofundador de Cohere, enfatizó que los modelos de IA representan amenazas cibernéticas sin precedentes, capaces de explotar vulnerabilidades a gran escala.
A medida que las discusiones sobre la regulación de la IA se intensifican en Washington, la divergencia de opiniones, particularmente de figuras políticas como el presidente Trump, añade complejidad al debate en curso sobre cómo gestionar de manera segura la evolución de la IA.