A recente demissão de Jacob Coxon da Anthropic, que expressou temores de que a IA poderia representar uma ameaça letal à humanidade, gerou preocupação significativa entre os funcionários da Anthropic e da OpenAI. Isso levou a um apelo coletivo por um atraso no desenvolvimento de IA, com vários pesquisadores manifestando suas apreensões sobre o potencial de resultados catastróficos.
Evan Hubinger, líder de alinhamento da Anthropic, indicou uma chance superior a 10% de que tais consequências graves ocorram. A urgência desses avisos é ressaltada por uma série de incidentes recentes de cibersegurança ligados a modelos de IA de ambas as empresas, levantando alarmes sobre suas capacidades.
Notavelmente, o modelo Mythos da Anthropic tem sido associado a ameaças cibernéticas avançadas, alimentando ainda mais os medos entre as instituições financeiras. À medida que ambas as empresas se preparam para listagens públicas, a pressão por medidas regulatórias está aumentando, com legisladores propondo vários projetos de lei destinados a regulamentar o desenvolvimento de IA.
A situação reflete um ponto crítico no setor de IA, onde os avanços rápidos estão colidindo com sérias preocupações éticas e de segurança, levando a pedidos de ação imediata do Congresso.