Les grands modèles de langage présentent un biais structurel contre la transition écologique
Quick Look
- Les grands modèles de langage (LLM) comme ChatGPT, Claude et Gemini, malgré leurs performances, souffrent d'un biais structurel non documenté dans les domaines de l'économie, de l'écologie et des politiques climatiques.
- Ce biais, issu de leur corpus d'apprentissage orienté, penche mécaniquement contre la transition écologique, rendant les modèles surconfiants et risqués pour les décisions collectives.
AI-generated summary
Why It Matters
Les grands modèles de langage apprennent en ingérant des milliards de textes, ce qui rend fréquent ce qui est leur repère de vérité, mais ce corpus est profondément orienté.
On salue les grands modèles de langage (ChatGPT, Claude, Gemini) pour leurs performances en mathématiques et en rédaction. Cependant, il existe un angle mort systématique, encore peu documenté, qui concerne précisément les domaines où ces outils pèsent sur les décisions collectives, à savoir l’économie, l’écologie et les politiques climatiques. Ce biais n’est pas un bug, mais une propriété structurelle, et il penche presque mécaniquement du mauvais côté de la transition écologique.
Pour l’appréhender, il faut comprendre comment ces modèles apprennent. Ils ingèrent des centaines de milliards de fragments de textes issus d’Internet, de la littérature académique et de rapports institutionnels, puis produisent le texte le plus conforme à ce qu’ils ont lu. Ce qui est fréquent dans leurs données devient leur repère de vérité. Ce mécanisme fonctionne – mais toujours avec un risque d’erreur – là où existe un signal non ambigu. Ainsi, en mathématiques, une démonstration est juste ou fausse.
Le modèle reçoit une rétroaction qui sanctionne ses erreurs. Toutefois, elle s’affaiblit à mesure qu’on s’éloigne des sciences formelles. En psychologie sociale, les grands projets de réplication conduits depuis dix ans peinent à confirmer la moitié des résultats publiés. En macroéconomie, les modèles dominants n’ont pas prévu la crise financière de 2008. En écologie, les effets systémiques de long terme résistent à toute quantification rapide. Dans ces domaines, le risque de biais est maximal, surtout pour l’utilisateur qui n’est pas un expert.
Modèles surconfiants
Le modèle ne signale pas l’incertitude. Il produit du consensus statistique à partir de son corpus. Or, ce corpus est profondément orienté : la littérature économique dominante – modèles néoclassiques, modèles DSGE des banques centrales [outils destinés à évaluer l’impact des politiques monétaires], hypothèse d’efficience des marchés – est massivement surreprésentée dans les revues à fort impact, les manuels, les rapports du Fonds monétaire international et de l’Organisation de coopération et de développement économiques.
Open Questions
- Comment corriger ce biais structurel dans les LLM ?
- Comment les utilisateurs non-experts peuvent-ils identifier ce biais ?
