Se está produciendo un cambio en el gasto corporativo en inteligencia artificial, ya que los CFO y las juntas buscan reducir gastos ineficientes. Tradicionalmente, las empresas han confiado en los modelos de IA más potentes para todas las tareas, independientemente de su complejidad. Sin embargo, con el aumento de los costos, muchos están cuestionando este enfoque.
El enrutamiento de modelos está surgiendo como una solución, permitiendo a las empresas emparejar tareas con el modelo de IA apropiado, dirigiendo consultas complejas a modelos de frontera costosos mientras utilizan alternativas más baratas para tareas más simples. Scott Wu, CEO de Cognition, destacó que esto podría llevar a eficiencias de costos de cinco a diez veces para trabajos rutinarios.
Actualmente, alrededor del 95% del uso de IA empresarial aún depende de estos modelos costosos, incluso para tareas que podrían ser manejadas por opciones menos costosas. El director de productos de Cisco, Jeetu Patel, señaló que los costos asociados con la IA pueden alcanzar hasta $900 millones anuales para grandes empresas, lo que lleva a una reevaluación de la asignación de recursos.
Cognition ha introducido una garantía de productividad de IA para abordar las preocupaciones sobre el retorno de la inversión, centrándose en las horas de ingeniería reales ahorradas en lugar de solo métricas de actividad. Esta tendencia podría cambiar el poder de fijación de precios de los proveedores de IA a las empresas, a medida que buscan optimizar su gasto.
Si bien los laboratorios de frontera seguirán exigiendo una prima por tareas complejas, la dinámica general del mercado podría cambiar, influyendo significativamente en las valoraciones de las principales empresas de IA.