Evan Hubinger, um líder de alinhamento na Anthropic, gerou uma discussão significativa nas redes sociais ao afirmar que há mais de 10% de chance de a IA levar à extinção humana na próxima década, após a renúncia de um colega devido a preocupações de segurança.
Seus comentários destacam os medos em torno do autoaperfeiçoamento recursivo, onde sistemas de IA poderiam aprimorar autonomamente suas próprias capacidades, potencialmente levando a cenários em que os humanos perdem o controle sobre esses sistemas.
Tanto a Anthropic quanto a OpenAI reconheceram que o ritmo de desenvolvimento da IA está acelerando, com a Anthropic observando que seus engenheiros estão produzindo oito vezes mais código do que em anos anteriores. O Cientista Chefe da OpenAI, Jakub Pachocki, expressou preocupações sobre as consequências imprevistas dos avanços rápidos na inteligência de máquinas.
Pesquisadores de ambas as organizações enfatizaram a urgência de abordar os riscos associados ao RSI, com alguns sugerindo que atualmente não há um plano científico viável para mitigar esses perigos.
A Anthropic delineou três futuros potenciais em relação ao desenvolvimento da IA, sendo o cenário mais alarmante aquele em que sistemas de IA alcançam pleno autoaperfeiçoamento recursivo, reduzindo significativamente a supervisão humana.
Esse crescente discurso sobre a segurança da IA ocorre em meio a desenvolvimentos notáveis no setor de IA, incluindo o relatório da TSMC da Nvidia sobre um aumento de 53% na receita devido à demanda por chips de IA, e o compromisso do Google de $15 bilhões em infraestrutura de IA na Finlândia.
Esses desenvolvimentos ressaltam a crescente importância da tecnologia de IA e a necessidade de uma consideração cuidadosa de suas implicações para a sociedade e o mercado.