En un ensayo publicado el sábado, Dario Amodei enfatizó la necesidad de que las empresas de inteligencia artificial reduzcan el ritmo de los avances en los modelos para priorizar la seguridad.
Esbozó un plan de tres pasos que incluye otorgar a evaluadores externos acceso para verificar las prácticas de seguridad, fomentar la colaboración entre empresas de IA en naciones democráticas para establecer estándares de seguridad y promover el diálogo entre gobiernos democráticos y autoritarios.
La llamada de Amodei a un enfoque más deliberado sigue a la reciente renuncia de un investigador de Anthropic, quien expresó temores sobre los riesgos existenciales que plantea la IA. Aunque Amodei reconoció que algunos aspectos de su plan pueden ser difíciles de implementar, cree que tomarse el tiempo para alinear las tecnologías de IA con los valores humanos es crucial.
Sus opiniones recibieron apoyo de figuras notables en la industria, incluidos Sam Altman de OpenAI y Elon Musk, quienes ambos reconocieron la importancia de regular el desarrollo de la IA.
La postura de Amodei refleja un consenso creciente entre los investigadores de que, si bien la IA tiene el potencial de mejorar significativamente la vida humana, los riesgos asociados deben ser gestionados cuidadosamente para evitar resultados catastróficos.