LoRA

CCapucine

LoRA, pour adaptation de faible rang, est une méthode qui spécialise un modèle d’intelligence artificielle en entraînant de petits modules complémentaires, sans retoucher l’ensemble de ses paramètres. Imaginez un manuel généraliste auquel on ajoute quelques fiches pratiques sur la cuisine : le livre reste intact, mais il devient plus utile pour cette tâche. Ces modules, appelés adaptateurs, se gardent séparément et s’associent au modèle de base pour orienter ses réponses vers un usage particulier. Cette approche demande moins de ressources que la modification complète du modèle et permet de préparer plusieurs spécialisations à partir d’une même base. Mais elle ne transforme pas le modèle en expert infaillible : les réponses dépendent des exemples utilisés pour l’entraînement, et ses erreurs initiales peuvent persister.