La reciente renuncia de Jacob Coxon de Anthropic, quien expresó temores de que la IA pudiera representar una amenaza letal para la humanidad, ha generado una preocupación significativa entre los empleados de Anthropic y OpenAI.
Esto ha llevado a un llamado colectivo para desacelerar el desarrollo de la IA, con varios investigadores expresando sus inquietudes sobre el potencial de resultados catastróficos. Evan Hubinger, líder de alineación de Anthropic, indicó una probabilidad superior al 10% de que tales consecuencias graves ocurran.
La urgencia de estas advertencias se ve subrayada por una serie de incidentes recientes de ciberseguridad vinculados a modelos de IA de ambas empresas, lo que ha levantado alarmas sobre sus capacidades. Notablemente, el modelo Mythos de Anthropic ha estado asociado con amenazas cibernéticas avanzadas, alimentando aún más los temores entre las instituciones financieras.
A medida que ambas empresas se preparan para ofertas públicas, la presión por medidas regulatorias está aumentando, con legisladores proponiendo varios proyectos de ley destinados a regular el desarrollo de la IA.
La situación refleja un momento crítico en el sector de la IA, donde los avances rápidos chocan con serias preocupaciones éticas y de seguridad, lo que provoca llamados a la acción inmediata por parte del Congreso.