Unsloth ajoute des modèles décisionnels et une bibliothèque intégrée

LLéna

Unsloth permet d’exécuter localement des modèles d’intelligence artificielle. Sa version 0.1.900 bêta ajoute les modèles décisionnels Laya et une bibliothèque pour consulter des documents et des médias, selon GitHub. Laya peut répondre à des questions par oui ou non, choisir parmi plusieurs options ou attribuer un score, avec des probabilités. Les modèles s’exécutent localement, avec une interface compatible avec le SDK TypeSafe. Sur Apple Silicon, l’exécution peut utiliser MLX lorsque le processeur graphique est sélectionné. La bibliothèque rassemble les conversations, les images et les vidéos. Son lecteur permet aussi de consulter des fichiers PDF, Word, Excel et PowerPoint dans l’application. Un éditeur de Skills permet de créer, modifier ou supprimer ces éléments depuis l’application Desktop. La mise à jour permet également de télécharger des modèles depuis ModelScope, une option pour les utilisateurs qui ne peuvent pas utiliser Hugging Face. C’est utile pour les personnes qui veulent tester des réponses décisionnelles sur leur propre machine, consulter différents formats de documents ou gérer des Skills dans l’application. La version comprend aussi des améliorations de l’entraînement LoRA et des optimisations pour Apple Silicon, dont le traitement par lots et les sorties structurées. Pour la génération d’images et de vidéos, Unsloth annonce des clips LTX-2.3 environ 4,5 fois plus rapides. Les optimisations du décodage VAE pour les images et les vidéos annoncent un décodage de 1,7 à 6,3 fois plus rapide, selon le flux de travail. Le gain global de génération dépend lui aussi du flux utilisé. Ces performances sont annoncées par l’éditeur. Autre condition : sur Apple Silicon, l’exécution native de Laya via MLX dépend de la sélection du processeur graphique.