Dans un essai publié samedi, Dario Amodei a souligné la nécessité pour les entreprises d'intelligence artificielle de ralentir le rythme des avancées des modèles afin de prioriser la sécurité.
Il a esquissé un plan en trois étapes qui comprend l'octroi d'un accès aux évaluateurs tiers pour vérifier les pratiques de sécurité, l'encouragement de la collaboration entre les entreprises d'IA dans les nations démocratiques pour établir des normes de sécurité, et la promotion du dialogue entre les gouvernements démocratiques et autoritaires.
L'appel d'Amodei à une approche plus délibérée fait suite à la récente démission d'un chercheur d'Anthropic, qui a exprimé des craintes concernant les risques existentiels posés par l'IA.
Bien qu'Amodei ait reconnu que certains aspects de son plan pourraient être difficiles à mettre en œuvre, il estime qu'il est crucial de prendre le temps d'aligner les technologies de l'IA sur les valeurs humaines.
Ses opinions ont reçu le soutien de personnalités notables de l'industrie, y compris Sam Altman d'OpenAI et Elon Musk, qui ont tous deux reconnu l'importance de rythmer le développement de l'IA.
La position d'Amodei reflète un consensus croissant parmi les chercheurs selon lequel, bien que l'IA ait le potentiel d'améliorer considérablement la vie humaine, les risques associés doivent être gérés avec soin pour éviter des résultats catastrophiques.