El 15 de octubre de 2026, Anthropic anunció su asociación con las organizaciones sin fines de lucro METR y SecureBio para mejorar sus prácticas de seguridad a través de evaluaciones independientes. Esta iniciativa sigue a la propuesta del CEO Dario Amodei de ralentizar el desarrollo de modelos de IA, enfatizando la necesidad de supervisión de terceros en el sector de IA en rápida evolución.
La colaboración tiene como objetivo verificar la adherencia de Anthropic a los protocolos de seguridad, con METR designado como evaluador de tercer nivel, proporcionando un acceso sustancial a los recursos de la empresa para el análisis de riesgos. SecureBio, clasificado como evaluador de primer nivel, tendrá un acceso más limitado mientras revisa informes de riesgos específicos.
La participación de evaluadores independientes ha ganado impulso en medio de las crecientes preocupaciones sobre la seguridad de la IA, destacadas por el reciente aliento del presidente Donald Trump a las empresas de IA para que involucren a auditores externos.
El compromiso de Anthropic de incorporar evaluadores refleja una tendencia más amplia en la industria hacia la responsabilidad y la transparencia, lo que podría dar forma a futuros marcos regulatorios e impactar la percepción de los inversores sobre las empresas de IA.
La asociación de la empresa con Accenture, aunque destinada a mejorar los esfuerzos de evaluación, ha suscitado preguntas sobre la independencia de tales evaluaciones debido a la financiación directa. En general, este movimiento señala un enfoque proactivo hacia la gestión de riesgos en IA, lo que podría influir en la dinámica del mercado y la confianza de los inversores en el sector.