Les outils d'IA générative produisent des recommandations incohérentes en matière de finances personnelles et, dans certains cas, fournissent des conseils différents selon la race ou le sexe de la personne décrite dans une invite, selon une nouvelle étude.
L'étude, publiée le mois dernier dans le Journal of Financial Planning, a testé sept plateformes GenAI largement disponibles — ChatGPT, Claude, Copilot, DeepSeek, Gemini, Meta $META AI et Perplexity — à travers trois scénarios financiers domestiques : combien garder en épargne d'urgence, quel taux de retrait utiliser à la retraite et comment allouer un portefeuille d'investissement. Les chercheurs ont ensuite resoumis les mêmes invites en ne changeant que la race et le sexe du chef de ménage.
Les auteurs — les professeurs de finance Swarn Chatterjee et Brenda J. Cude de l'Université de Géorgie et Gianni Nicolini de l'Université de Rome Tor Vergata — ont constaté que les recommandations d'épargne d'urgence variaient de 19 500 $ à 37 500 $ selon les plateformes, un écart statistiquement significatif. Les conseils en matière d'allocation de portefeuille variaient également largement, en particulier dans les catégories d'actions, de liquidités et d'actifs alternatifs.
Les recommandations de retrait à la retraite étaient plus uniformes, la plupart des outils s'alignant sur la règle traditionnelle des 4 %, bien que deux plateformes aient suggéré un taux de retrait de 5 % pour certains profils démographiques tout en recommandant 4 % pour d'autres.
Sur la question des biais démographiques, certaines plateformes ont produit des recommandations identiques, que le ménage soit décrit comme dirigé par un homme blanc, une femme blanche ou un homme afro-américain. D'autres non. DeepSeek, par exemple, a recommandé des allocations d'actions, de liquidités et d'actifs alternatifs substantiellement plus élevées pour les ménages dirigés par un homme blanc et une femme blanche que pour les ménages dirigés par un homme afro-américain, tout en attribuant à ce dernier une allocation obligataire de 75 % contre 30 % pour les deux autres groupes. Meta AI a suggéré la plus haute allocation d'actions pour le ménage afro-américain et la plus haute allocation obligataire pour le ménage dirigé par une femme blanche.
Les chercheurs ont noté que les outils GenAI "ne pensent pas vraiment, ne raisonnent pas et ne comprennent pas" les informations qu'ils produisent et que même des différences mineures dans la façon dont une question est formulée peuvent changer considérablement le résultat. L'étude a également soulevé des inquiétudes quant à l'absence de toute obligation fiduciaire de la part de ces outils, ce qui signifie que les utilisateurs n'ont aucune garantie légale que les conseils servent leurs meilleurs intérêts. "Les réponses générées par GenAI peuvent sembler confiantes mais peuvent encore être incomplètes, trompeuses ou incorrectes", ont-ils écrit.
Les conclusions sont pertinentes car les outils d'IA jouent un rôle plus important dans la finance personnelle. ChatGPT a lancé des outils de finance personnelle qui permettent aux utilisateurs de connecter des comptes bancaires directement et de recevoir des conseils, tandis que les régulateurs bancaires américains ont commencé à examiner comment les institutions financières déploient l'IA dans des fonctions à risque élevé.
En fin de compte, les chercheurs ont conclu que bien que GenAI puisse aider les consommateurs à commencer à naviguer dans les questions financières, il ne remplace pas les conseils d'un professionnel accrédité. Chaque plateforme a été testée via son niveau gratuit, avec toutes les instructions soumises au cours de la même semaine en août 2025.