In un recente post su X, Sam Altman ha articolato la necessità di un approccio strutturato alla sicurezza dell'IA, sostenendo regolamenti federali coerenti per prevenire avanzamenti imprudenti nella tecnologia dell'IA. Ha evidenziato due rischi significativi: la potenziale perdita di controllo sull'IA e la concentrazione di potere all'interno di un'unica entità.
Questo segue un appello di Dario Amodei di Anthropic affinché le aziende di IA rallentino il loro ritmo di sviluppo, suggerendo un piano in tre fasi che include valutazioni esterne e l'istituzione di standard di sicurezza comuni. Altman ha sostenuto queste idee ma ha chiarito che 'rallentare' non equivale a fermare il progresso.
L'urgenza di queste discussioni è sottolineata da crescenti preoccupazioni per la sicurezza all'interno del settore, in particolare dopo che un ricercatore di Anthropic si è dimesso per presunta negligenza riguardo ai rischi dell'IA.
Mentre i legislatori a Washington si affannano per affrontare queste questioni, il contesto di imminenti IPO sia per Anthropic che per OpenAI aggiunge ulteriore complessità alla situazione. Il mercato ha reagito negativamente a questi sviluppi, riflettendo l'apprensione degli investitori riguardo al futuro panorama normativo e al suo impatto sul settore dell'IA.