El viernes, Anthropic anunció que ha elegido a Accenture como su primer evaluador integrado, un paso alineado con la propuesta del CEO Dario Amodei para desacelerar el desarrollo de la IA. Ambas empresas invertirán al menos $1,000 millones en los próximos cinco años para construir capacidad en seguridad de IA.
Anthropic planea financiar directamente el trabajo de Accenture, enfatizando la urgencia de la iniciativa, mientras expresa una visión a largo plazo para que la financiación provenga de fuentes agrupadas o gubernamentales. El reciente plan de tres pasos de Amodei tiene como objetivo regular el ritmo de los avances en IA, lo que ha generado reacciones mixtas entre los líderes de la industria.
Mientras que algunos, como Sam Altman de OpenAI y Elon Musk, apoyan la iniciativa, otros, incluido Jensen Huang de Nvidia, cuestionan la necesidad de nuevas regulaciones. El primer paso del plan permite a evaluadores externos acceder a las operaciones de Anthropic para verificar las prácticas de seguridad.
Anthropic ha comenzado a integrar empleados de la división de IA de Accenture para probar salvaguardias y asegurar la alineación con los valores humanos. La empresa sostiene que seguirá siendo responsable de la seguridad de sus modelos y planea evolucionar su enfoque a medida que el campo de la IA se desarrolle.
Esta asociación y el marco regulatorio propuesto podrían tener un impacto significativo en la próxima OPI de Anthropic y en el panorama más amplio de la IA.