Effondrement des modèles

TThéa

L’effondrement des modèles, c’est la dégradation progressive d’une intelligence artificielle quand on entraîne de nouvelles versions avec les réponses produites par d’autres intelligences artificielles, sans assez de contenus d’origine. Imaginez une photocopie faite à partir d’une autre photocopie : à chaque copie, certains détails disparaissent, tandis que de petites erreurs peuvent s’installer. Dans un modèle, le phénomène peut réduire la variété des réponses et rendre certaines erreurs plus fréquentes, parce que les exemples artificiels reflètent déjà les limites du modèle qui les a produits. C’est important, car les réponses générées servent parfois à créer des données d’entraînement ; si cette boucle est mal maîtrisée, elle peut appauvrir les capacités du système et le rendre moins fiable sur des cas inhabituels. Mais ce n’est ni automatique ni inévitable : des données synthétiques peuvent être utiles si elles sont contrôlées et mélangées à des sources variées et de bonne qualité.