Un consenso crescente tra i principali ricercatori e dirigenti dell'AI, tra cui Sam Altman di OpenAI e Geoffrey Hinton, sottolinea le minacce esistenziali poste dai progressi dell'AI. Yoshua Bengio, figura chiave nell'apprendimento profondo, ha espresso preoccupazioni sul fatto che i sistemi AI attuali possiedano capacità che potrebbero essere dannose se non allineate con gli interessi umani.
Ha osservato che l'AI potrebbe già pianificare su periodi prolungati, sollevando allarmi riguardo ai futuri sviluppi. Hinton ha riconosciuto la difficoltà di stimare i rischi, suggerendo una significativa possibilità che l'AI possa rappresentare una minaccia per l'umanità entro un decennio.
Aidan Gomez, co-fondatore di Cohere, ha sottolineato che i modelli AI rappresentano minacce informatiche senza precedenti, capaci di sfruttare vulnerabilità su larga scala.
Mentre le discussioni sulla regolamentazione dell'AI si intensificano a Washington, la divergenza di opinioni, in particolare da parte di figure politiche come il presidente Trump, aggiunge complessità al dibattito in corso su come gestire in sicurezza l'evoluzione dell'AI.