Dans une déclaration récente, le président et PDG de Microsoft, Satya Nadella, a souligné l'importance de mettre en œuvre des mesures de sécurité strictes dans les systèmes d'intelligence artificielle avancés.
Il a proposé que ces systèmes incluent des fonctionnalités de confinement, des contrôles indépendants et un 'frein d'urgence' permettant au personnel autorisé de mettre en pause ou d'arrêter les modèles d'IA pendant leur fonctionnement.
Les remarques de Nadella reflètent une préoccupation plus large de l'industrie concernant le rythme du développement de l'IA et les risques potentiels associés à des protocoles de sécurité insuffisants.
Des figures éminentes de la technologie, y compris le cofondateur de Microsoft, Bill Gates, et des dirigeants d'entreprises comme OpenAI et Anthropic, ont exprimé des sentiments similaires, avertissant que l'avancement rapide de l'IA pourrait entraîner des conséquences dangereuses.
Nadella a exposé plusieurs principes pour concevoir des systèmes d'IA dignes de confiance, notamment la diversité des modèles, la transparence des actions des modèles, les tests continus et la divulgation des incidents.
Il a soutenu que les systèmes d'IA les plus fiables seront ceux qui permettent un minimum de confiance dans les modèles eux-mêmes, soulignant la nécessité d'une supervision et d'une responsabilité robustes dans le développement de l'IA.