Thinking Machines ajoute Dimuon à Tinker

LLéna

Thinking Machines a ajouté Dimuon, un optimiseur conçu pour le fine-tuning LoRA, à son API Tinker, selon AlphaSignal. AdamW reste l’option par défaut de l’API, tandis que Dimuon est désormais proposé comme autre choix pour ces réglages de modèles. Dans les tests internes de fine-tuning supervisé, Dimuon a atteint une perte plus faible qu’AdamW en moins d’étapes, avec une durée comparable pour chaque étape. Dans ces tests, Dimuon a donc atteint une perte plus faible en moins d’étapes, sans différence notable dans la durée de chaque étape. Thinking Machines indique qu’en fine-tuning supervisé, une décroissance linéaire du taux d’apprentissage jusqu’à zéro a amélioré l’efficacité en nombre d’étapes de 1,3 fois par rapport à un taux constant. Le réglage de ce taux compte aussi dans la comparaison : Dimuon nécessite généralement un taux d’apprentissage 10 à 100 fois supérieur à celui d’AdamW. Pour les expériences de l’entreprise, les ratios optimaux indiqués sont d’environ 15 fois en fine-tuning supervisé et 60 fois en apprentissage par renforcement. Dans les tests de renforcement rapportés par Thinking Machines, les performances des deux optimiseurs sont globalement similaires. Les résultats de fine-tuning reposent sur des benchmarks internes de l’entreprise et peuvent varier selon les tâches. Thinking Machines recommande de comparer Dimuon à une configuration d’AdamW soigneusement réglée, car les gains peuvent varier selon les tâches.