Dans un récent post sur X, Sam Altman a articulé la nécessité d'une approche structurée pour la sécurité de l'IA, plaidant pour des réglementations fédérales cohérentes afin d'éviter des avancées imprudentes dans la technologie de l'IA. Il a mis en avant deux risques significatifs : la perte potentielle de contrôle sur l'IA et la concentration du pouvoir au sein d'une seule entité.
Cela fait suite à un appel de Dario Amodei d'Anthropic demandant aux entreprises d'IA de ralentir leur rythme de développement, suggérant un plan en trois étapes qui inclut des évaluations externes et l'établissement de normes de sécurité communes. Altman a soutenu ces idées mais a précisé que 'ralentir' ne signifie pas arrêter le progrès.
L'urgence de ces discussions est soulignée par des préoccupations croissantes en matière de sécurité au sein de l'industrie, notamment après qu'un chercheur d'Anthropic a démissionné en raison d'une négligence perçue concernant les risques liés à l'IA.
Alors que les législateurs à Washington s'efforcent de traiter ces questions, le contexte des introductions en bourse imminentes d'Anthropic et d'OpenAI ajoute une complexité supplémentaire à la situation. Le marché a réagi négativement à ces développements, reflétant l'appréhension des investisseurs concernant le paysage réglementaire futur et son impact sur le secteur de l'IA.