Dario Amodei expresó preocupaciones significativas sobre el rápido avance de la inteligencia artificial, particularmente en el contexto de la competencia internacional con países como China.
En una entrevista con CBS News, describió el dilema de si las naciones adversarias aceptarían una desaceleración propuesta en el desarrollo de la IA, enfatizando las ventajas militares que podrían surgir de ser el primero en innovar.
El ensayo reciente de Amodei aboga por un plan de tres pasos destinado a ralentizar el progreso de la IA mientras se mantiene la competitividad comercial y el liderazgo de EE. UU. en el sector.
Este plan incluye otorgar acceso a evaluadores externos para garantizar prácticas de seguridad, fomentar la colaboración entre naciones democráticas para establecer estándares de seguridad y promover el diálogo entre gobiernos democráticos y autoritarios.
La propuesta ha recibido apoyo de líderes de la industria, incluidos Sam Altman de OpenAI y Elon Musk, quienes reconocieron la necesidad de supervisión en el desarrollo de la IA.
Sin embargo, críticos como David Sacks argumentan que tanto Anthropic como OpenAI deberían asumir la responsabilidad de sus avances sin buscar permiso externo, sugiriendo que sus motivaciones pueden no ser del todo altruistas.
El trasfondo de esta discusión incluye la posibilidad de que ambas empresas persigan ofertas públicas iniciales, con Altman indicando que OpenAI podría retrasar su OPI debido a preocupaciones de seguridad.
En general, el llamado de Amodei a un enfoque más cauteloso en el desarrollo de la IA refleja la creciente inquietud sobre los riesgos de la tecnología y la necesidad de marcos regulatorios en un panorama cada vez más competitivo.