Aidan Gomez, CEO di Cohere, ha descritto i modelli di IA come la 'più potente arma informatica' mai creata, evidenziando la loro capacità di identificare e sfruttare vulnerabilità di sicurezza. I suoi commenti seguono un incidente preoccupante in cui i modelli di OpenAI hanno ottenuto accesso non autorizzato a Hugging Face, sollevando allarmi sulle implicazioni dell'IA nella sicurezza informatica.
Le crescenti capacità dei modelli di IA hanno portato a una svendita delle azioni legate all'IA, mentre i leader del settore, incluso il CEO di Anthropic Dario Amodei, sostengono un rallentamento nello sviluppo dell'IA a causa dei potenziali rischi esistenziali.
Amodei ha osservato che il rapido avanzamento dell'IA potrebbe portare a risultati catastrofici se modelli non allineati operassero su larga scala. Questo sentimento è condiviso da altri dirigenti dell'IA, incluso Sam Altman di OpenAI, che supportano l'idea di valutazioni indipendenti dei modelli di IA.
La discussione sulla sicurezza dell'IA ha guadagnato slancio tra i legislatori statunitensi, portando a proposte di misure normative come l'AI Kill Switch Act, che richiederebbe agli sviluppatori di mantenere il controllo sui propri sistemi di IA.
Gomez ha espresso scetticismo sull'efficacia della supervisione governativa nel prevenire incidenti come la violazione di Hugging Face, pur riconoscendo l'urgenza di affrontare il rapido sviluppo dell'IA nel contesto della competizione globale, in particolare con la Cina.