L’outil du jour : Unsloth

MMarc

Unsloth publie vendredi une mise à jour de ses outils d’exécution locale, qui permet de lancer de nouveaux modèles et d’affiner des modèles sur son ordinateur, selon sa publication sur GitHub. Parmi les ajouts, Flint est un modèle de Recursive destiné aux agents de programmation. Il compte 40 milliards de paramètres, dont 2,5 milliards actifs. En quantification 3 bits, il tient dans 24 gigaoctets de mémoire, à contexte court. La mise à jour ajoute aussi MOSS-Image, un modèle qui peut générer des images contenant du texte en anglais ou en chinois. Il fonctionne sur une carte graphique de 16 gigaoctets. Unsloth intègre également Nemotron Bolt 4B, un modèle de raisonnement de NVIDIA. Unsloth lui attribue 63,2 points sur Tau2-Bench, contre 38,7 pour Gemma 4 E4B. Pour les personnes qui utilisent un Mac, la mise à jour permet de placer sur un disque SSD les experts de modèles MoE qui dépassent la mémoire disponible. Unsloth indique que Qwen3.8-Flash-Next peut ainsi fonctionner sur un Mac avec 32 gigaoctets de mémoire. L’application Desktop propose une installation limitée au chat avec des modèles GGUF. Le fine-tuning local est aussi accessible par une API compatible avec le kit de développement logiciel d’OpenAI. Enfin, REAP permet d’exporter des modèles MoE allégés en retirant 25 % ou 50 % des experts jugés les moins utiles. Les chiffres de performance cités sont ceux publiés par Unsloth et ne sont pas vérifiés indépendamment ici.