Dario Amodei a exprimé des préoccupations significatives concernant l'avancement rapide de l'intelligence artificielle, en particulier dans le contexte de la concurrence internationale avec des pays comme la Chine.
Dans une interview avec CBS News, il a décrit le dilemme de savoir si les nations adverses accepteraient un ralentissement proposé du développement de l'IA, en soulignant les avantages militaires qui pourraient découler d'être le premier à innover.
L'essai récent d'Amodei plaide pour un plan en trois étapes visant à ralentir le progrès de l'IA tout en maintenant la compétitivité commerciale et le leadership des États-Unis dans le secteur.
Ce plan comprend l'octroi d'un accès à des évaluateurs tiers pour garantir des pratiques de sécurité, l'encouragement de la collaboration entre les nations démocratiques pour établir des normes de sécurité, et la promotion d'un dialogue entre les gouvernements démocratiques et autoritaires.
La proposition a reçu le soutien de leaders de l'industrie, y compris Sam Altman d'OpenAI et Elon Musk, qui ont reconnu la nécessité d'une supervision dans le développement de l'IA.
Cependant, des critiques comme David Sacks soutiennent qu'Anthropic et OpenAI devraient assumer la responsabilité de leurs avancées sans chercher de permission externe, suggérant que leurs motivations pourraient ne pas être entièrement altruistes.
Le contexte de cette discussion inclut la possibilité pour les deux entreprises de poursuivre des introductions en bourse, Altman indiquant qu'OpenAI pourrait retarder son IPO en raison de préoccupations de sécurité.
Dans l'ensemble, l'appel d'Amodei à une approche plus prudente du développement de l'IA reflète une inquiétude croissante concernant les risques de la technologie et la nécessité de cadres réglementaires dans un paysage de plus en plus compétitif.