Transformers 5.20.2 corrige des problèmes de génération

MMarc

Transformers est le logiciel concerné par la mise à jour corrective que Hugging Face a publiée lundi, sous le nom de version 5.20.2. La publication détaille les corrections sur GitHub. Le changement principal concerne la préparation des entrées pendant la génération. Dans certaines situations, leur type pouvait être modifié lors de l’utilisation de la fonction generate. Ce problème pouvait perturber les modèles multimodaux. La mise à jour corrige ce comportement. Elle est donc pertinente, en particulier, pour les personnes qui utilisent cette fonction avec des modèles multimodaux susceptibles d’être affectés. Le correctif traite aussi un problème de gradients d’experts nuls en bfloat16, dans un contexte de parallélisme d’experts. Il intéresse concrètement les équipes qui utilisent cette configuration et rencontrent ce problème. La mise à jour ajuste par ailleurs les modalités d’entrée déclarées pour certains modèles vision-langage, qui indiquaient seulement le texte. Cette correction concerne les personnes qui s’appuient sur ces déclarations pour identifier les types d’entrées des modèles concernés. Enfin, la version évite une copie de la mémoire hôte vers le périphérique dans eager_mask. Ce changement porte sur un transfert mémoire précis. La sortie rassemble donc plusieurs corrections distinctes : la gestion des entrées à la génération, les gradients, les modalités déclarées et une copie mémoire. Les faits annoncés ne précisent pas d’autres conditions d’usage, de licence ou de matériel. Ils décrivent une mise à jour corrective, sans annoncer de nouvelle fonction générale.