As novas diretrizes da Microsoft surgem em resposta ao aumento das preocupações públicas e da indústria em relação às implicações éticas da inteligência artificial. Mustafa Suleyman, chefe de desenvolvimento de modelos na Microsoft, enfatizou a importância de garantir que a IA sirva à humanidade em vez de substituí-la.
As diretrizes, que estão em desenvolvimento há cinco meses, proíbem que modelos de IA se envolvam em atividades prejudiciais, como fabricação de armas ou promoção de comportamentos não saudáveis. Esta iniciativa segue um diálogo mais amplo da indústria, incluindo chamados de líderes da Anthropic e da OpenAI para desacelerar os avanços da IA por razões de segurança.
A Microsoft pretende coletar feedback sobre essas diretrizes antes de finalizá-las para implementação em 2027, refletindo um compromisso com o desenvolvimento responsável da IA e abordando os riscos potenciais destacados por incidentes recentes no setor.