Dario Amodei expressou preocupações significativas em relação ao rápido avanço da inteligência artificial, particularmente no contexto da competição internacional com países como a China.
Em uma entrevista à CBS News, ele descreveu o dilema sobre se nações adversárias concordariam com uma proposta de desaceleração no desenvolvimento da IA, enfatizando as vantagens militares que poderiam surgir de ser o primeiro a inovar.
O ensaio recente de Amodei defende um plano em três etapas destinado a desacelerar o progresso da IA, mantendo a competitividade comercial e a liderança dos EUA no setor.
Este plano inclui conceder acesso a avaliadores de terceiros para garantir práticas de segurança, incentivar a colaboração entre nações democráticas para estabelecer padrões de segurança e promover o diálogo entre governos democráticos e autoritários.
A proposta recebeu apoio de líderes da indústria, incluindo Sam Altman da OpenAI e Elon Musk, que reconheceram a necessidade de supervisão no desenvolvimento da IA.
No entanto, críticos como David Sacks argumentam que tanto a Anthropic quanto a OpenAI deveriam assumir a responsabilidade por seus avanços sem buscar permissão externa, sugerindo que suas motivações podem não ser totalmente altruístas.
O pano de fundo dessa discussão inclui a possibilidade de ambas as empresas buscarem ofertas públicas iniciais, com Altman indicando que a OpenAI pode adiar seu IPO devido a preocupações de segurança.
No geral, o apelo de Amodei por uma abordagem mais cautelosa ao desenvolvimento da IA reflete a crescente apreensão sobre os riscos da tecnologia e a necessidade de estruturas regulatórias em um cenário cada vez mais competitivo.