Empoisonnement des données

CCapucine

L’empoisonnement des données, c’est l’ajout volontaire d’exemples trompeurs dans les données qui servent à entraîner une intelligence artificielle, pour influencer ce qu’elle apprend. Imaginez un guide de restaurants où de faux avis font passer un établissement pour excellent, ou au contraire le discréditent : un système entraîné sur ces avis risque de reprendre cette déformation dans ses recommandations. Pour une intelligence artificielle, l’effet peut dépasser une erreur isolée : ces exemples peuvent orienter ses réponses, ses classements ou ses décisions, sans que cela soit évident. Le risque compte parce que les données viennent souvent de nombreuses sources, qu’il n’est pas toujours facile de vérifier avant de les utiliser. Mais une donnée erronée ne suffit pas forcément à empoisonner un modèle : tout dépend de sa place dans l’ensemble, de la façon dont le modèle apprend et des contrôles appliqués ensuite.