Недавние обсуждения среди лидеров стартапов в области ИИ показывают, что, хотя такие компании, как Meta и OpenAI, разрабатывают продвинутые агенты ИИ, эти системы все еще сталкиваются с серьезными проблемами при выполнении сложных задач, особенно тех, которые требуют реального суждения.
Марисса Мейер, генеральный директор Dazzle AI, отметила, что текущие модели ИИ могут предлагать услуги, но часто терпят неудачу в их выполнении, что приводит к необходимости человеческого контроля. Например, агент ИИ перепутал материалы во время проекта по ремонту дома, что потребовало человеческого вмешательства для быстрого разрешения проблемы.
Аналогично, Меган Джойс, генеральный директор Duckbill, подчеркнула важность интеграции человеческих работников для выполнения задач, которые агенты ИИ, вероятно, будут неправильно управлять. Duckbill представила API, который позволяет компаниям делегировать эти задачи человеческим подрядчикам, подобно модели, используемой Uber.
Это сотрудничество между ИИ и людьми рассматривается как необходимое для поддержания доверия пользователей и обеспечения выполнения задач. Также были высказаны опасения по поводу конфиденциальности и прозрачности, особенно в отношении использования человеческих подрядчиков в операциях ИИ.
По мере перехода рынка эффективность агентов ИИ будет зависеть от их способности работать вместе с людьми для предоставления надежного сервиса.