La reciente publicación en el blog de Anthropic describe tres métricas diseñadas para ayudar a las empresas de IA a monitorear sus procesos de desarrollo. Este anuncio se produce poco después de que el CEO Dario Amodei abogara por una desaceleración en los avances de la IA, un llamado que ha recibido apoyo de figuras notables de la industria como Sam Altman de OpenAI y Elon Musk.
Las métricas incluyen una evaluación de la investigación y el desarrollo liderados por la IA, mecanismos de supervisión para los agentes de IA y una instantánea de la asignación de recursos computacionales dentro de la empresa.
Específicamente, Anthropic encontró que sus modelos Claude no son completamente autónomos en sus tareas de investigación, y aproximadamente 30,000 agentes de IA están involucrados en investigación e ingeniería en cualquier momento. Además, la empresa informó que solo alrededor del 6% de sus recursos computacionales para la investigación de IA se dedicaron a medidas de seguridad.
Al compartir estas métricas, Anthropic busca fomentar la transparencia y proporcionar un marco para que terceros evalúen el ritmo de desarrollo de la IA, lo cual es crucial mientras la industria navega el equilibrio entre la innovación y la seguridad.