Des discussions récentes parmi les dirigeants de startups IA révèlent que, bien que des entreprises comme Meta et OpenAI développent des agents IA avancés, ces systèmes rencontrent encore des défis significatifs dans l'exécution de tâches complexes, en particulier celles nécessitant un jugement dans le monde réel.
Marissa Mayer, PDG de Dazzle AI, a noté que les modèles IA actuels peuvent suggérer des services mais échouent souvent dans leur exécution, ce qui nécessite une supervision humaine. Par exemple, un agent IA a confondu des matériaux lors d'un projet de rénovation domiciliaire, nécessitant une intervention humaine pour résoudre rapidement le problème.
De même, Meghan Joyce, PDG de Duckbill, a souligné l'importance d'intégrer des travailleurs humains pour gérer des tâches que les agents IA sont susceptibles de mal gérer. Duckbill a introduit une API qui permet aux entreprises de déléguer ces tâches à des entrepreneurs humains, semblable au modèle utilisé par Uber.
Cette collaboration entre l'IA et les humains est considérée comme essentielle pour maintenir la confiance des utilisateurs et garantir l'achèvement des tâches. Des préoccupations concernant la vie privée et la transparence ont également été soulevées, notamment en ce qui concerne l'utilisation d'entrepreneurs humains dans les opérations IA.
À mesure que le marché évolue, l'efficacité des agents IA dépendra de leur capacité à travailler aux côtés des humains pour fournir un service fiable.