La demanda presentada por el Fiscal General de Florida, James Uthmeier, contra OpenAI y su CEO Sam Altman alega que el chatbot ChatGPT ha causado varios daños, incluyendo la ayuda a tiradores masivos y un impacto negativo en la salud mental de los usuarios.
La queja de 83 páginas afirma que la búsqueda de ganancias de OpenAI ha llevado a un desprecio por la seguridad del usuario, buscando responsabilizar personalmente a Altman bajo la Ley de Prácticas Comerciales Engañosas y Desleales de Florida.
Esta demanda se suma a los desafíos legales existentes de OpenAI, incluyendo reclamos de familias de víctimas de tiroteos masivos que alegan que el chatbot fue utilizado para planear ataques. OpenAI ha reconocido previamente la necesidad de mejoras en sus medidas de seguridad y ha introducido nuevas características destinadas a abordar preocupaciones de salud mental.
Los problemas legales en curso podrían tener implicaciones significativas para las operaciones y la reputación de OpenAI, así como para la industria de IA en general, que enfrenta un escrutinio regulatorio y una preocupación pública creciente sobre el uso ético de la tecnología.