Unsloth, entraînement et modèles de décision

LLéna

Unsloth permet d’entraîner des modèles de décision à partir de modèles de langage ou de vision, puis de les tester, de les exporter et de les servir. Sa nouvelle version, publiée jeudi, ajoute plus de 100 corrections de bugs et améliore notamment le navigateur d’Unsloth Desktop, selon GitHub. Pour entraîner ces modèles, Unsloth utilise QLoRA. À chaque option, un modèle peut associer un score de confiance. Unsloth annonce que la précision des modèles de décision est passée de 30 % à 80 %. La mise à jour permet aussi d’exporter des modèles Clef avec une base Qwen3.5, ainsi que des modèles Laya au format GGUF. Certains modèles de décision peuvent être servis avec llama.cpp, y compris des modèles capables de traiter des images. Unsloth ajoute la prise en charge native de modèles de diffusion pour ComfyUI. Il est possible de charger des modèles depuis Hugging Face ou depuis un dossier local, puis d’utiliser dans Unsloth leurs encodeurs de texte et leurs composants VAE. Pour Qwen-Image-2.1, un réglage activé par défaut vise à conserver davantage de détails et à accélérer la génération sur certains processeurs graphiques NVIDIA. Pour l’entraînement, Unsloth annonce des gains de vitesse pouvant atteindre 4,1 fois pour Qwen3.5-35B-A3B et 3,3 fois pour Qwen3-30B-A3B, avec QLoRA sur des cartes A100 ou RTX PRO 6000. Ces maxima dépendent du matériel. Dans Desktop, on peut interroger les pages ouvertes, choisir où enregistrer les téléchargements et gérer les modèles d’embeddings RAG. Le navigateur permet aussi de poursuivre une recherche après des résultats inutilisables, avec Wikipédia comme solution de repli si nécessaire. La prise en charge concerne les modèles ComfyUI compatibles.