Recenti discussioni tra i leader delle startup AI rivelano che, mentre aziende come Meta e OpenAI stanno sviluppando agenti AI avanzati, questi sistemi affrontano ancora sfide significative nell'esecuzione di compiti complessi, specialmente quelli che richiedono giudizio nel mondo reale.
Marissa Mayer, CEO di Dazzle AI, ha osservato che i modelli AI attuali possono suggerire servizi ma spesso falliscono nell'esecuzione, portando alla necessità di supervisione umana. Ad esempio, un agente AI ha confuso i materiali durante un progetto di ristrutturazione domestica, necessitando di un intervento umano per risolvere rapidamente il problema.
Allo stesso modo, Meghan Joyce, CEO di Duckbill, ha sottolineato l'importanza di integrare lavoratori umani per gestire compiti che gli agenti AI potrebbero gestire male. Duckbill ha introdotto un'API che consente alle aziende di delegare questi compiti a contrattisti umani, simile al modello utilizzato da Uber.
Questa collaborazione tra AI e umani è vista come essenziale per mantenere la fiducia degli utenti e garantire il completamento dei compiti. Sono state sollevate anche preoccupazioni riguardo alla privacy e alla trasparenza, in particolare per quanto riguarda l'uso di contrattisti umani nelle operazioni AI.
Con la transizione del mercato, l'efficacia degli agenti AI dipenderà dalla loro capacità di lavorare insieme agli esseri umani per fornire un servizio affidabile.