RLHF

TThéa

Le RLHF, c’est une méthode qui apprend à un modèle d’intelligence artificielle à mieux répondre à partir des préférences exprimées par des humains. Imaginez un assistant qui propose plusieurs réponses à une question : des personnes choisissent les plus utiles, les plus claires ou les plus adaptées, et ce jugement aide à améliorer ses réponses. Le système apprend ainsi à privilégier certaines façons de répondre, comme donner une explication compréhensible plutôt qu’une réponse sèche, ou refuser une demande dangereuse. Le RLHF compte parce qu’il rapproche les réponses d’un assistant des attentes humaines, au-delà de sa capacité à produire du texte cohérent. Mais il ne rend pas le modèle infaillible : les préférences varient d’une personne à l’autre, et une réponse qui plaît n’est pas forcément exacte. Le résultat dépend aussi des exemples et des jugements utilisés pour l’entraîner.