Em uma declaração recente, o presidente e CEO da Microsoft, Satya Nadella, destacou a importância de implementar medidas de segurança rigorosas em sistemas avançados de inteligência artificial.
Ele propôs que esses sistemas deveriam incluir recursos de contenção, controles independentes e um 'freio de emergência' que permita ao pessoal autorizado pausar ou desligar modelos de IA durante a operação.
As observações de Nadella refletem uma preocupação mais ampla da indústria em relação ao ritmo de desenvolvimento da IA e os riscos potenciais associados a protocolos de segurança insuficientes.
Figuras proeminentes da tecnologia, incluindo o cofundador da Microsoft, Bill Gates, e líderes de empresas como OpenAI e Anthropic, expressaram sentimentos semelhantes, alertando que o avanço rápido da IA poderia levar a resultados perigosos.
Nadella delineou vários princípios para projetar sistemas de IA confiáveis, incluindo diversidade de modelos, transparência nas ações dos modelos, testes contínuos e divulgação de incidentes.
Ele argumentou que os sistemas de IA mais confiáveis serão aqueles que permitirem uma confiança mínima nos próprios modelos, enfatizando a necessidade de supervisão robusta e responsabilidade no desenvolvimento da IA.