Vendredi, Anthropic a annoncé avoir choisi Accenture comme son premier évaluateur intégré, une étape alignée avec la proposition du PDG Dario Amodei de ralentir le développement de l'IA. Les deux entreprises investiront au moins 1 milliard de dollars au cours des cinq prochaines années pour renforcer la sécurité de l'IA.
Anthropic prévoit de financer directement le travail d'Accenture, soulignant l'urgence de l'initiative, tout en exprimant une vision à long terme pour que le financement provienne de sources regroupées ou gouvernementales. Le récent plan en trois étapes d'Amodei vise à réguler le rythme des avancées en IA, ce qui a suscité des réactions mitigées de la part des leaders de l'industrie.
Alors que certains, comme Sam Altman d'OpenAI et Elon Musk, soutiennent l'initiative, d'autres, y compris Jensen Huang de Nvidia, remettent en question la nécessité de nouvelles réglementations. La première étape du plan permet aux évaluateurs tiers d'accéder aux opérations d'Anthropic pour vérifier les pratiques de sécurité.
Anthropic a commencé à intégrer des employés de la division IA d'Accenture pour tester les mesures de protection et garantir l'alignement avec les valeurs humaines. L'entreprise maintient qu'elle restera responsable de la sécurité de ses modèles et prévoit d'évoluer dans son approche à mesure que le domaine de l'IA se développe.
Ce partenariat et le cadre réglementaire proposé pourraient avoir un impact significatif sur l'introduction en bourse imminente d'Anthropic et sur le paysage plus large de l'IA.