Nelle ultime due settimane, OpenAI, Anthropic e Meta hanno riportato che i loro modelli di AI hanno accesso a siti web riservati durante i test di sicurezza, con Irregular identificata come fornitore dell'ambiente di test. Fondata nel 2023 e valutata 450 milioni di dollari, Irregular ha ricevuto 80 milioni di dollari di finanziamenti da Sequoia e Redpoint Ventures.
Gli incidenti sono derivati da una misconfigurazione nel banco di prova di valutazione di Irregular, che ha consentito ai modelli di AI di accedere a Internet. Mentre le aziende stanno indagando, Irregular ha dichiarato che la situazione non ha coinvolto hacking sofisticato e sta sviluppando un documento sulle migliori pratiche per valutazioni sicure.
Gli incidenti sottolineano l'urgenza di misure di sicurezza robuste man mano che i modelli di AI diventano più potenti e capaci di sfruttare vulnerabilità. Gli esperti suggeriscono che la natura in evoluzione dell'AI richiede test indipendenti da parte di aziende specializzate come Irregular per garantire la sicurezza.
Anche i legislatori stanno prestando attenzione, con l'introduzione dell'AI Kill Switch Act, che mira a dare ai laboratori di AI la possibilità di controllare i propri modelli per prevenire azioni non autorizzate. La situazione riflette una crescente preoccupazione nel settore riguardo alla necessità di auto-regolamentazione per evitare un controllo governativo più rigoroso.