Il CEO di Anthropic Dario Amodei ha suggerito di integrare valutatori di sicurezza di terze parti all'interno delle aziende di AI per monitorare lo sviluppo di modelli avanzati, dopo gli avvertimenti di un ex ricercatore sui rischi dei sistemi AI incontrollati.
Tuttavia, esperti come Julie Andersen Hill sostengono che senza la capacità di far rispettare le misure di sicurezza, come fermare l'addestramento o il rilascio dei modelli, questi valutatori potrebbero non mitigare efficacemente i rischi.
Mentre Amodei cita l'industria bancaria come un precedente per questo approccio normativo, il confronto è errato a causa della mancanza di potere di enforcement per i valutatori.
I critici esprimono anche preoccupazione che questa proposta potrebbe servire a proteggere aziende consolidate come Anthropic e OpenAI dalla concorrenza e dalla responsabilità, poiché mantengono il controllo su ciò che i valutatori possono accedere e riportare.
La natura interconnessa del campo della valutazione dell'AI complica ulteriormente la nozione di indipendenza, poiché i valutatori potrebbero avere legami con le aziende che valutano. In generale, l'efficacia di queste misure di sicurezza proposte rimane incerta, il che potrebbe influenzare il sentiment degli investitori e il controllo normativo nel settore dell'AI.