O recente post no blog da Anthropic descreve três métricas projetadas para auxiliar as empresas de IA a monitorar seus processos de desenvolvimento. Este anúncio ocorre logo após o CEO Dario Amodei defender uma desaceleração nos avanços da IA, um pedido que recebeu apoio de figuras notáveis da indústria, como Sam Altman da OpenAI e Elon Musk.
As métricas incluem uma avaliação da pesquisa e desenvolvimento liderados por IA, mecanismos de supervisão para agentes de IA e uma visão geral da alocação de recursos computacionais dentro da empresa.
Especificamente, a Anthropic descobriu que seus modelos Claude não são totalmente autônomos em suas tarefas de pesquisa, e aproximadamente 30.000 agentes de IA estão envolvidos em pesquisa e engenharia a qualquer momento. Além disso, a empresa relatou que apenas cerca de 6% de seus recursos computacionais para pesquisa em IA foram dedicados a medidas de segurança.
Ao compartilhar essas métricas, a Anthropic visa promover a transparência e fornecer uma estrutura para que terceiros avaliem o ritmo de desenvolvimento da IA, o que é crucial à medida que a indústria navega entre inovação e segurança.