Il Forum dei Valutatori di IA, guidato da Conrad Stosz, ha emesso una lettera pubblica che sostiene l'istituzione di valutatori indipendenti di terze parti per valutare la sicurezza delle tecnologie IA.
Questo gruppo, che include figure di spicco come Geoffrey Hinton e rappresentanti di istituzioni come Johns Hopkins e Stanford, sta rispondendo a un crescente scrutinio sui potenziali pericoli posti dai modelli di IA avanzati. Sostengono che senza risorse adeguate e protezioni, i valutatori non possono svolgere efficacemente i loro ruoli.
La lettera evidenzia la necessità di obiettività scientifica, trasparenza e indipendenza nelle valutazioni, esortando le aziende di IA a rispettare i loro impegni per test di sicurezza approfonditi.
In particolare, la recente proposta del CEO di Anthropic, Dario Amodei, di concedere ai valutatori maggiore accesso ai sistemi interni ha suscitato discussioni sulla fattibilità e le implicazioni di tali misure.
La coalizione sottolinea che le valutazioni indipendenti sono cruciali per scoprire rischi che potrebbero minacciare la sicurezza informatica e la sicurezza nazionale, poiché pochi laboratori potenti controllano capacità significative di IA.
Sebbene il gruppo riconosca la possibilità che le aziende possano ignorare il loro appello all'azione, sottolineano che la credibilità di queste aziende è in gioco. La lettera delinea condizioni specifiche per valutazioni efficaci, inclusa l'indipendenza dalle aziende valutate e protezioni contro ritorsioni per i valutatori.
Questo movimento riflette un crescente riconoscimento della necessità di una supervisione robusta nel panorama in rapida evoluzione dell'IA.