O estudo, publicado no Journal of Financial Planning, analisou sete plataformas de IA generativa, incluindo ChatGPT e Claude, e encontrou inconsistências notáveis em seus conselhos financeiros.
Os pesquisadores observaram que, embora a IA possa fornecer insights gerais, como a importância da diversificação, suas saídas podem ser enganosas ou incorretas devido a 'alucinações' algorítmicas e sensibilidade aos comandos dos usuários. Andrew Lo, do MIT, alertou que as respostas que soam autoritárias da IA podem ser enganosas, particularmente para cálculos financeiros específicos.
A pesquisa também indicou que fatores demográficos poderiam influenciar as recomendações fornecidas por essas plataformas, levantando preocupações sobre equidade e consistência.
Com 66% dos americanos usando IA para conselhos financeiros, e porcentagens ainda maiores entre as gerações mais jovens, os achados sugerem que, embora a IA possa ser um ponto de partida útil para consultas financeiras, não deve substituir o aconselhamento profissional.
O estudo ressalta a natureza em evolução das ferramentas de IA e as potenciais diferenças nas saídas entre modelos gratuitos e pagos.