Dario Amodei ha espresso significative preoccupazioni riguardo al rapido avanzamento dell'intelligenza artificiale, in particolare nel contesto della competizione internazionale con paesi come la Cina.
In un'intervista con CBS News, ha descritto il dilemma se le nazioni avversarie accetterebbero un rallentamento proposto nello sviluppo dell'IA, sottolineando i vantaggi militari che potrebbero derivare dall'essere i primi a innovare.
Il recente saggio di Amodei sostiene un piano in tre fasi volto a rallentare il progresso dell'IA mantenendo la competitività commerciale e la leadership degli Stati Uniti nel settore.
Questo piano include la concessione di accesso a valutatori di terze parti per garantire pratiche di sicurezza, incoraggiando la collaborazione tra nazioni democratiche per stabilire standard di sicurezza e promuovendo il dialogo tra governi democratici e autoritari.
La proposta ha ottenuto il sostegno di leader del settore, tra cui Sam Altman di OpenAI ed Elon Musk, che hanno riconosciuto la necessità di supervisione nello sviluppo dell'IA.
Tuttavia, critici come David Sacks sostengono che sia Anthropic che OpenAI dovrebbero assumersi la responsabilità dei loro progressi senza cercare permessi esterni, suggerendo che le loro motivazioni potrebbero non essere del tutto altruistiche.
Lo sfondo di questa discussione include la possibilità che entrambe le aziende perseguano offerte pubbliche iniziali, con Altman che indica che OpenAI potrebbe ritardare il suo IPO a causa di preoccupazioni sulla sicurezza.
In generale, l'appello di Amodei per un approccio più cauto allo sviluppo dell'IA riflette una crescente apprensione riguardo ai rischi della tecnologia e alla necessità di quadri normativi in un panorama sempre più competitivo.