Le Forum des Évaluateurs d'IA, dirigé par Conrad Stosz, a publié une lettre publique plaidant pour l'établissement d'évaluateurs tiers indépendants afin d'évaluer la sécurité des technologies d'IA.
Ce groupe, qui comprend des figures éminentes telles que Geoffrey Hinton et des représentants d'institutions comme Johns Hopkins et Stanford, répond à une surveillance croissante concernant les dangers potentiels posés par les modèles d'IA avancés. Ils soutiennent que sans ressources et protections adéquates, les évaluateurs ne peuvent pas remplir efficacement leurs rôles.
La lettre souligne la nécessité d'objectivité scientifique, de transparence et d'indépendance dans les évaluations, exhortant les entreprises d'IA à respecter leurs engagements en matière de tests de sécurité approfondis.
Notamment, la proposition récente du PDG d'Anthropic, Dario Amodei, de donner aux évaluateurs un meilleur accès aux systèmes internes a suscité des discussions sur la faisabilité et les implications de telles mesures.
La coalition souligne que les évaluations indépendantes sont cruciales pour découvrir des risques qui pourraient menacer la cybersécurité et la sécurité nationale, alors que quelques laboratoires puissants contrôlent des capacités d'IA significatives.
Bien que le groupe reconnaisse la possibilité que les entreprises ignorent leur appel à l'action, il insiste sur le fait que la crédibilité de ces entreprises est en jeu. La lettre décrit des conditions spécifiques pour des évaluations efficaces, y compris l'indépendance par rapport aux entreprises évaluées et des protections contre les représailles pour les évaluateurs.
Ce mouvement reflète une reconnaissance croissante de la nécessité d'une surveillance robuste dans le paysage de l'IA en rapide évolution.