Le 15 octobre 2026, Anthropic a annoncé son partenariat avec les ONG METR et SecureBio pour améliorer ses pratiques de sécurité grâce à des évaluations indépendantes. Cette initiative fait suite à la proposition du PDG Dario Amodei de ralentir le développement des modèles d'IA, soulignant la nécessité d'une supervision par des tiers dans le secteur de l'IA en rapide évolution.
La collaboration vise à vérifier l'adhésion d'Anthropic aux protocoles de sécurité, avec METR désigné comme évaluateur de troisième niveau, fournissant un accès substantiel aux ressources de l'entreprise pour l'analyse des risques. SecureBio, classé comme évaluateur de premier niveau, aura un accès plus limité tout en examinant des rapports de risques spécifiques.
L'implication d'évaluateurs indépendants a gagné en importance au milieu des préoccupations croissantes concernant la sécurité de l'IA, mises en avant par l'encouragement récent du président Donald Trump à ce que les entreprises d'IA fassent appel à des auditeurs externes.
L'engagement d'Anthropic à intégrer des évaluateurs reflète une tendance plus large de l'industrie vers la responsabilité et la transparence, qui pourrait façonner les futurs cadres réglementaires et influencer les perceptions des investisseurs sur les entreprises d'IA.
Le partenariat de l'entreprise avec Accenture, bien qu'ayant pour but d'améliorer les efforts d'évaluation, a soulevé des questions sur l'indépendance de telles évaluations en raison d'un financement direct.
Dans l'ensemble, cette initiative signale une approche proactive de la gestion des risques dans l'IA, pouvant influencer la dynamique du marché et la confiance des investisseurs dans le secteur.