Il recente post sul blog di Anthropic delinea tre metriche progettate per assistere le aziende di IA nel monitorare i loro processi di sviluppo. Questo annuncio arriva poco dopo che il CEO Dario Amodei ha sostenuto un rallentamento nei progressi dell'IA, un appello che ha ricevuto supporto da figure di spicco del settore come Sam Altman di OpenAI ed Elon Musk.
Le metriche includono una valutazione della ricerca e sviluppo guidata dall'IA, meccanismi di supervisione per gli agenti IA e un'istantanea dell'allocazione delle risorse di calcolo all'interno dell'azienda.
In particolare, Anthropic ha scoperto che i suoi modelli Claude non sono completamente autonomi nei loro compiti di ricerca e che circa 30.000 agenti IA sono coinvolti nella ricerca e ingegneria in qualsiasi momento. Inoltre, l'azienda ha riportato che solo circa il 6% delle sue risorse di calcolo per la ricerca sull'IA erano dedicate a misure di sicurezza.
Condividendo queste metriche, Anthropic mira a promuovere la trasparenza e fornire un quadro per le terze parti per valutare il ritmo di sviluppo dell'IA, che è cruciale mentre il settore cerca di bilanciare innovazione e sicurezza.