Unsloth personnalise son interface et accélère la génération

LLéna

Unsloth ajoute l’entraînement de modèles de texte sur processeur, ainsi que des options d’interface et des améliorations de génération, dans une mise à jour publiée mardi sur GitHub. Côté apparence, 5 thèmes Glass font leur arrivée. On peut aussi régler les arrière-plans, choisir une police pour le code et personnaliser le message d’accueil. Pour retrouver un passage dans une longue conversation, un navigateur permet de prévisualiser les anciens messages, de les marquer et d’y revenir directement. L’entraînement sur processeur se lance depuis la page Train. La mise à jour accélère aussi la génération de certains modèles Llama et Qwen3 sur des cartes graphiques NVIDIA, avec Linux ou WSL. Dans ses tests sur une carte A100, Unsloth annonce que Qwen3-8B en 4 bits atteint 99,1 tokens par seconde, contre 25,7 auparavant. L’éditeur annonce une accélération de 3,9 fois. Autre amélioration, SDXL peut générer des images avec moins de 4 gigaoctets de mémoire vidéo. Un nouvel index accélère la recherche dans de grandes collections de documents pour le RAG. Le navigateur est utile pour parcourir les longues conversations et retrouver des échanges antérieurs. L’entraînement sur processeur s’adresse aux personnes qui veulent lancer cette étape sans recourir à une carte graphique. Mais les performances ne sont pas universelles. Le gain de vitesse concerne certains modèles Llama et Qwen3, sur des cartes graphiques NVIDIA, avec Linux ou WSL. Le chiffre de 99,1 tokens par seconde correspond à un test précis sur A100.