Na sexta-feira, a Anthropic anunciou que escolheu a Accenture como seu primeiro avaliador embutido, um passo alinhado com a proposta do CEO Dario Amodei de desacelerar o desenvolvimento de IA. Ambas as empresas investirão pelo menos US$ 1 bilhão nos próximos cinco anos para construir capacidade em segurança de IA.
A Anthropic planeja financiar diretamente o trabalho da Accenture, enfatizando a urgência da iniciativa, enquanto expressa uma visão de longo prazo para que o financiamento venha de fontes agrupadas ou governamentais. O recente plano de três etapas de Amodei visa regular o ritmo dos avanços em IA, o que gerou reações mistas entre os líderes da indústria.
Enquanto alguns, como Sam Altman da OpenAI e Elon Musk, apoiam a iniciativa, outros, incluindo Jensen Huang da Nvidia, questionam a necessidade de novas regulamentações. O primeiro passo do plano permite que avaliadores de terceiros acessem as operações da Anthropic para verificar as práticas de segurança.
A Anthropic começou a embutir funcionários da divisão de IA da Accenture para testar salvaguardas e garantir alinhamento com os valores humanos. A empresa mantém que continuará responsável pela segurança de seus modelos e planeja evoluir sua abordagem à medida que o campo de IA se desenvolve.
Essa parceria e o quadro regulatório proposto podem impactar significativamente o próximo IPO da Anthropic e o panorama mais amplo da IA.