Un consensus croissant parmi les principaux chercheurs et dirigeants en IA, y compris Sam Altman d'OpenAI et Geoffrey Hinton, souligne les menaces existentielles posées par les avancées de l'IA.
Yoshua Bengio, une figure clé de l'apprentissage profond, a exprimé des inquiétudes quant aux capacités des systèmes d'IA actuels qui pourraient être nuisibles s'ils ne sont pas alignés sur les intérêts humains. Il a noté que l'IA pourrait déjà élaborer des stratégies sur de longues périodes, suscitant des alarmes concernant les développements futurs.
Hinton a reconnu la difficulté d'estimer les risques, suggérant une chance significative que l'IA puisse représenter une menace pour l'humanité dans la prochaine décennie. Aidan Gomez, co-fondateur de Cohere, a souligné que les modèles d'IA représentent des menaces cybernétiques sans précédent, capables d'exploiter les vulnérabilités à grande échelle.
Alors que les discussions sur la réglementation de l'IA s'intensifient à Washington, la divergence des opinions, en particulier de la part de figures politiques comme le président Trump, ajoute de la complexité au débat en cours sur la manière de gérer en toute sécurité l'évolution de l'IA.