Le recenti dimissioni di Jacob Coxon da Anthropic, che ha espresso timori che l'IA possa rappresentare una minaccia letale per l'umanità, hanno suscitato notevole preoccupazione tra i dipendenti di Anthropic e OpenAI.
Questo ha portato a una richiesta collettiva di un rallentamento nello sviluppo dell'IA, con diversi ricercatori che hanno espresso le loro apprensioni riguardo al potenziale di risultati catastrofici. Evan Hubinger, responsabile dell'allineamento di Anthropic, ha indicato una probabilità superiore al 10% che tali conseguenze gravi possano verificarsi.
L'urgenza di questi avvertimenti è sottolineata da una serie di recenti incidenti di cybersicurezza legati ai modelli di IA di entrambe le aziende, sollevando allarmi sulle loro capacità. In particolare, il modello Mythos di Anthropic è stato associato a minacce informatiche avanzate, alimentando ulteriormente le paure tra le istituzioni finanziarie.
Mentre entrambe le aziende si preparano per le quotazioni pubbliche, la pressione per misure regolatorie sta aumentando, con i legislatori che propongono vari disegni di legge volti a governare lo sviluppo dell'IA.
La situazione riflette un momento critico nel settore dell'IA, dove i rapidi progressi si scontrano con gravi preoccupazioni etiche e di sicurezza, spingendo a richieste di azione immediata da parte del Congresso.