Le récent article de blog d'Anthropic décrit trois métriques conçues pour aider les entreprises d'IA à surveiller leurs processus de développement. Cette annonce intervient peu après que le PDG Dario Amodei a plaidé pour un ralentissement des avancées en IA, un appel qui a reçu le soutien de personnalités notables de l'industrie comme Sam Altman d'OpenAI et Elon Musk.
Les métriques incluent une évaluation de la recherche et du développement dirigés par l'IA, des mécanismes de supervision pour les agents d'IA, et un aperçu de l'allocation des ressources informatiques au sein de l'entreprise.
Plus précisément, Anthropic a constaté que ses modèles Claude ne sont pas entièrement autonomes dans leurs tâches de recherche, et qu'environ 30 000 agents d'IA sont engagés dans la recherche et l'ingénierie à tout moment. De plus, l'entreprise a rapporté qu'environ 6 % de ses ressources informatiques pour la recherche en IA étaient consacrées aux mesures de sécurité.
En partageant ces métriques, Anthropic vise à favoriser la transparence et à fournir un cadre pour que des tiers puissent évaluer le rythme de développement de l'IA, ce qui est crucial alors que l'industrie navigue entre innovation et sécurité.