Las nuevas directrices de Microsoft surgen en respuesta a las crecientes preocupaciones públicas e industriales sobre las implicaciones éticas de la inteligencia artificial. Mustafa Suleyman, jefe de desarrollo de modelos en Microsoft, enfatizó la importancia de asegurar que la IA sirva a la humanidad en lugar de reemplazarla.
Las directrices, que han estado en desarrollo durante cinco meses, prohíben que los modelos de IA participen en actividades dañinas como la fabricación de armas o la promoción de comportamientos poco saludables. Esta iniciativa sigue un diálogo más amplio en la industria, que incluye llamados de líderes en Anthropic y OpenAI para ralentizar los avances en IA por razones de seguridad.
Microsoft busca recopilar comentarios sobre estas directrices antes de finalizarlas para su implementación en 2027, reflejando un compromiso con el desarrollo responsable de la IA y abordando los riesgos potenciales destacados por incidentes recientes en el sector.