PyTorch 2.15

LLéna

PyTorch publie la version 2.15, qui fait du backend NCCL réécrit le choix par défaut, selon GitHub. En cas de blocage, un enregistreur de traces peut produire un diagnostic. Des options permettent de revenir à l’ancien backend. Pour les équipes qui répartissent l’entraînement entre plusieurs accélérateurs, FSDP2 et le pipelining gagnent des réglages de mémoire et de communication. La réduction des gradients peut notamment se dérouler en parallèle du calcul. PyTorch ajoute aussi des transferts compatibles avec les graphes CUDA et un backend NIXL pour les communications distribuées. Côté inférence, PyTorch annonce un décodage des grands modèles de langage en 4 bits NVFP4 plus rapide sur les processeurs graphiques NVIDIA Blackwell. Sur Apple Silicon, la version ajoute la prise en charge du format FP8 et une nouvelle opération, grouped_mm, avec un chemin rapide pour le décodage des modèles à experts, ou MoE. Le débit annoncé pour cette tâche atteint 1,32 à 1,34 fois plus de tokens par seconde. La version étend aussi la prise en charge de certaines puces AMD, propose des roues ROCm 10.0 et utilise CUDA 13.2 par défaut. Elle prend également en charge la compilation avec Python 3.15. Ces évolutions peuvent être utiles aux équipes qui entraînent des modèles avec FSDP2 ou le pipelining, et à celles qui utilisent les plateformes prises en charge. Une limite concerne les applications qui tentent de recharger PyTorch : le module ne peut plus être réinitialisé dans un même processus, et cette tentative déclenche une erreur explicite.