Loi de Goodhart

TThéa

La loi de Goodhart, c’est l’idée qu’un indicateur cesse souvent d’être fiable quand on en fait un objectif à atteindre. Imaginez une école évaluée uniquement sur les notes de ses élèves : elle pourrait privilégier les exercices qui rapportent des points, plutôt que les apprentissages qui aident vraiment à comprendre. Le résultat mesuré s’améliore peut-être, mais il ne dit plus aussi bien ce qu’on voulait savoir au départ. C’est important pour l’intelligence artificielle, parce qu’un système apprend souvent à optimiser un critère choisi par des humains : si ce critère est incomplet, il peut produire une réponse qui coche la case sans répondre au besoin réel. Cela ne signifie pas qu’il faut renoncer aux mesures : elles restent utiles pour suivre une évolution et repérer des problèmes. Mais aucune mesure ne résume à elle seule une réalité complexe. Il faut donc la compléter par d’autres indices, et vérifier que les résultats correspondent bien à l’objectif recherché.