Biais algorithmique

TThéa

Le biais algorithmique, c’est une tendance d’un système informatique à produire des résultats défavorables à certains groupes, parce que ses données ou ses règles reflètent des déséquilibres. Imaginez un outil de recrutement entraîné avec d’anciens choix : s’ils favorisaient un type de parcours, l’outil peut privilégier encore ces profils, même sans consigne explicite. Le biais ne vient pas forcément d’une intention discriminatoire ; il peut se glisser dans les exemples utilisés ou dans la manière de définir la réussite. Cela compte parce qu’une décision automatisée peut influencer l’accès à un emploi, à un service ou à une information, et répéter des inégalités à grande échelle. Mais tout résultat différent n’est pas automatiquement injuste : il faut examiner le contexte, comparer les effets et prévoir une vérification humaine adaptée.