Las discusiones recientes entre líderes de startups de IA revelan que, aunque empresas como Meta y OpenAI están desarrollando agentes de IA avanzados, estos sistemas aún enfrentan desafíos significativos para ejecutar tareas complejas, especialmente aquellas que requieren juicio en el mundo real.
Marissa Mayer, CEO de Dazzle AI, señaló que los modelos de IA actuales pueden sugerir servicios, pero a menudo fallan en la ejecución, lo que lleva a la necesidad de supervisión humana. Por ejemplo, un agente de IA confundió materiales durante un proyecto de renovación del hogar, lo que requirió intervención humana para resolver el problema rápidamente.
De manera similar, Meghan Joyce, CEO de Duckbill, enfatizó la importancia de integrar trabajadores humanos para manejar tareas que los agentes de IA probablemente gestionen mal. Duckbill ha introducido una API que permite a las empresas delegar estas tareas a contratistas humanos, similar al modelo utilizado por Uber.
Esta colaboración entre IA y humanos se considera esencial para mantener la confianza del usuario y garantizar la finalización de las tareas. También se han planteado preocupaciones sobre la privacidad y la transparencia, particularmente en lo que respecta al uso de contratistas humanos en las operaciones de IA.
A medida que el mercado transita, la efectividad de los agentes de IA dependerá de su capacidad para trabajar junto a humanos y ofrecer un servicio confiable.