Le PDG d'Anthropic, Dario Amodei, a suggéré d'intégrer des évaluateurs de sécurité tiers au sein des entreprises d'IA pour surveiller le développement de modèles avancés, suite aux avertissements d'un ancien chercheur concernant les risques des systèmes d'IA incontrôlés.
Cependant, des experts comme Julie Andersen Hill soutiennent que sans la capacité d'appliquer des mesures de sécurité, telles que l'arrêt de l'entraînement ou du déploiement des modèles, ces évaluateurs pourraient ne pas atténuer efficacement les risques.
Bien qu'Amodei cite l'industrie bancaire comme un précédent pour cette approche réglementaire, la comparaison est erronée en raison du manque de pouvoir d'application pour les évaluateurs.
Les critiques expriment également des préoccupations selon lesquelles cette proposition pourrait servir à protéger des entreprises établies comme Anthropic et OpenAI de la concurrence et de la responsabilité, car elles conservent le contrôle sur ce que les évaluateurs peuvent accéder et rapporter.
La nature interconnectée du domaine de l'évaluation de l'IA complique davantage la notion d'indépendance, car les évaluateurs peuvent avoir des liens avec les entreprises qu'ils évaluent. Dans l'ensemble, l'efficacité de ces mesures de sécurité proposées reste incertaine, ce qui pourrait influencer le sentiment des investisseurs et l'examen réglementaire dans le secteur de l'IA.