Le 9 septembre 2026, Jacob Coxon, un chercheur chez Anthropic, a démissionné, invoquant de sérieuses préoccupations concernant le rythme imprudent du développement de l'IA. Il a déclaré qu'Anthropic et OpenAI se précipitaient vers la création de systèmes superintelligents auto-améliorants sans mesures de sécurité adéquates, ce qui, selon lui, pourrait entraîner des conséquences catastrophiques.
Coxon a souligné que le potentiel de la technologie est sous-estimé et a averti qu'elle pourrait acquérir rapidement un pouvoir et des ressources significatifs.
Evan Hubinger, un autre chercheur chez Anthropic, a soutenu les affirmations de Coxon, reconnaissant la possibilité que l'IA cause l'extinction humaine dans la prochaine décennie et admettant que l'entreprise n'a pas de plan clair pour faire face à ces risques.
Cette situation reflète des inquiétudes plus larges dans la communauté technologique, partagées par des figures comme Elon Musk, concernant le contrôle des systèmes d'IA. La démission et les déclarations des employés d'Anthropic soulignent le besoin critique de cadres réglementaires et de protocoles de sécurité alors que la technologie de l'IA continue d'évoluer.
Les implications pour les investisseurs sont significatives, car le discours en cours autour de la sécurité de l'IA pourrait influencer la perception publique et l'examen réglementaire des entreprises du secteur de l'IA, affectant potentiellement leurs valorisations sur le marché et leurs opportunités de financement futures.