Em um ensaio publicado no sábado, Dario Amodei enfatizou a necessidade de as empresas de inteligência artificial desacelerarem o ritmo dos avanços dos modelos para priorizar a segurança.
Ele delineou um plano em três etapas que inclui conceder acesso a avaliadores de terceiros para verificar práticas de segurança, incentivar a colaboração entre empresas de IA em nações democráticas para estabelecer padrões de segurança e promover o diálogo entre governos democráticos e autoritários.
O apelo de Amodei por uma abordagem mais deliberada segue a recente demissão de um pesquisador da Anthropic, que expressou temores sobre os riscos existenciais impostos pela IA. Embora Amodei reconheça que alguns aspectos de seu plano podem ser desafiadores de implementar, ele acredita que levar tempo para alinhar as tecnologias de IA com os valores humanos é crucial.
Suas opiniões receberam apoio de figuras notáveis da indústria, incluindo Sam Altman, da OpenAI, e Elon Musk, que ambos reconheceram a importância de moderar o desenvolvimento da IA.
A posição de Amodei reflete um consenso crescente entre os pesquisadores de que, embora a IA tenha o potencial de melhorar significativamente a vida humana, os riscos associados devem ser geridos cuidadosamente para evitar resultados catastróficos.