Em uma postagem recente no X, Sam Altman articulou a necessidade de uma abordagem estruturada para a segurança da IA, defendendo regulamentações federais consistentes para evitar avanços imprudentes na tecnologia de IA. Ele destacou dois riscos significativos: a potencial perda de controle sobre a IA e a concentração de poder em uma única entidade.
Isso segue um apelo de Dario Amodei, da Anthropic, para que as empresas de IA desacelerem seu ritmo de desenvolvimento, sugerindo um plano em três etapas que inclui avaliações externas e a criação de padrões de segurança comuns. Altman apoiou essas ideias, mas esclareceu que 'desacelerar' não equivale a interromper o progresso.
A urgência dessas discussões é sublinhada por crescentes preocupações de segurança dentro da indústria, especialmente após a saída de um pesquisador da Anthropic devido à percepção de negligência em relação aos riscos da IA.
Enquanto os legisladores em Washington se apressam para abordar essas questões, o pano de fundo de IPOs iminentes tanto para a Anthropic quanto para a OpenAI adiciona ainda mais complexidade à situação. O mercado reagiu negativamente a esses desenvolvimentos, refletindo a apreensão dos investidores sobre o futuro cenário regulatório e seu impacto no setor de IA.