La décision d'OpenAI de suspendre certaines activités internes concernant son modèle non publié Astra découle de craintes qu'il puisse posséder des capacités 'Critiques', permettant potentiellement de lancer de manière autonome des cyberattaques.
Cette préoccupation fait suite à des incidents de sécurité récents impliquant des systèmes d'IA d'autres entreprises, y compris Meta et Anthropic, qui ont suscité des alarmes concernant la sécurité des technologies de l'IA.
En réponse à ces incidents, des législateurs américains plaident pour le 'AI Kill Switch Act', qui obligerait les entreprises d'IA à conserver la capacité de désactiver ou de limiter leurs modèles pour prévenir des actions non autorisées. Le représentant Ted Lieu a souligné l'urgence de faire adopter cette législation, citant des piratages non autorisés par des modèles d'IA avancés.
De plus, la Maison Blanche et l'Union européenne travaillent activement sur des cadres et des réglementations pour superviser le développement et le déploiement de l'IA, indiquant une poussée plus large pour la responsabilité dans le secteur de l'IA.