In un saggio pubblicato sabato, Dario Amodei ha sottolineato la necessità per le aziende di intelligenza artificiale di rallentare il ritmo dei progressi nei modelli per dare priorità alla sicurezza.
Ha delineato un piano in tre fasi che include la concessione di accesso a valutatori di terze parti per verificare le pratiche di sicurezza, incoraggiando la collaborazione tra le aziende di IA nei paesi democratici per stabilire standard di sicurezza e promuovendo il dialogo tra governi democratici e autoritari.
La richiesta di Amodei per un approccio più deliberato segue una recente dimissione di un ricercatore di Anthropic, che ha espresso timori riguardo ai rischi esistenziali posti dall'IA. Sebbene Amodei abbia riconosciuto che alcuni aspetti del suo piano potrebbero essere difficili da attuare, crede che sia fondamentale prendersi il tempo necessario per allineare le tecnologie IA ai valori umani.
Le sue opinioni hanno ricevuto supporto da figure di spicco del settore, tra cui Sam Altman di OpenAI ed Elon Musk, che hanno entrambi riconosciuto l'importanza di un ritmo controllato nello sviluppo dell'IA.
La posizione di Amodei riflette un crescente consenso tra i ricercatori che, sebbene l'IA abbia il potenziale di migliorare significativamente la vita umana, i rischi associati devono essere gestiti con attenzione per evitare esiti catastrofici.