Prime Intellect publie IPO pour stabiliser l’entraînement asynchrone

LLéna

Prime Intellect a publié lundi de nouvelles versions de prime-rl et de verifiers, avec IPO comme fonction de perte par défaut pour l’entraînement par renforcement, selon AlphaSignal. Cette méthode compare les probabilités attribuées aux tokens par le moteur d’inférence et par le système d’entraînement, puis masque ceux dont l’écart absolu est important. L’objectif est de limiter les dérives entre ces deux étapes, qui peuvent déstabiliser un entraînement asynchrone lorsque les opérations ne sont pas synchronisées. Dans des tests de programmation avec GLM-4.5-Air, IcePop s’est effondré à l’étape 1 200, tandis qu’IPO a poursuivi l’entraînement en masquant 0,25 % des tokens. Ce résultat illustre le rôle du masquage dans ce test, sans établir à lui seul que la méthode évitera tout effondrement. Prime Intellect rapporte aussi que l’entraînement supervisé de Qwen3-235B atteint un débit 1,15 fois supérieur à celui de torchtitan, sur des nœuds B300 identiques. L’entreprise indique une utilisation moyenne des processeurs graphiques de 46,6 % pour cet entraînement. La mise à jour ajoute la prise en charge native de DeepSeek V4 Flash, Qwen3.8 Flash Next et Nemotron-H, ainsi que de l’entraînement multimodal par renforcement pour Qwen-VL et Kimi K2.5. Elle regroupe également les outils d’évaluation dans une interface en ligne de commande accessible avec uv run. Ces ajouts élargissent les modèles et les tâches pris en charge, tandis que la nouvelle fonction IPO vise à stabiliser l’entraînement asynchrone.