En una declaración reciente, el presidente y CEO de Microsoft, Satya Nadella, subrayó la importancia de implementar medidas de seguridad estrictas en los sistemas avanzados de inteligencia artificial.
Propuso que estos sistemas deberían incluir características de contención, controles independientes y un 'freno de emergencia' que permita al personal autorizado pausar o apagar los modelos de IA durante su operación.
Los comentarios de Nadella reflejan una preocupación más amplia en la industria sobre el ritmo del desarrollo de la IA y los riesgos potenciales asociados con protocolos de seguridad insuficientes.
Figuras prominentes en tecnología, incluidos el cofundador de Microsoft, Bill Gates, y líderes de empresas como OpenAI y Anthropic, han expresado sentimientos similares, advirtiendo que el rápido avance de la IA podría llevar a resultados peligrosos.
Nadella delineó varios principios para diseñar sistemas de IA confiables, incluyendo la diversidad de modelos, la transparencia en las acciones del modelo, pruebas continuas y la divulgación de incidentes.
Argumentó que los sistemas de IA más confiables serán aquellos que permitan una confianza mínima en los propios modelos, enfatizando la necesidad de una supervisión y responsabilidad robustas en el desarrollo de la IA.