Saluki 27B, un modèle compact orienté vers les outils

OOndine

Conway Research a publié Saluki 27B, une version quantifiée en 2 bits de Qwen3.8-27B, sous licence Apache 2.0, selon MarkTechPost. Le modèle compte 27 milliards de paramètres, mais son fichier pèse 7,89 gigaoctets, contre 54 gigaoctets pour la version au format BF16, et il fonctionne avec le logiciel llama.cpp standard. Underdog affirme que Saluki conserve en moyenne 96 % des performances du modèle complet sur 9 benchmarks, un résultat qui accompagne son objectif de rendre ce modèle plus compact sans sacrifier l’essentiel de ses capacités. Sur 100 tâches d’appels d’outils parallèles du test BFCL version 4, Saluki obtient 42 points, contre 35 pour le modèle complet. Sur le benchmark d’Underdog, qui comprend 120 tâches, il obtient aussi 88 points, contre 84. Ces résultats montrent un avantage dans ces évaluations d’appels d’outils, mais les performances baissent sur certaines autres épreuves : à AIME 2025, Saluki obtient 79,2 points, contre 96,7 pour le modèle complet, puis 80 points contre 94,6 à AIME 2026. Sur SWE-bench Verified, Saluki résout 30 problèmes sur 50, contre 33 pour le modèle complet. Underdog indique que Saluki repose sur le fichier quantifié IQ2_XS de l’équipe ISTA-DASLab, puis sur une passe supplémentaire ciblant les appels d’outils ; la recette complète de cette dernière passe n’a pas été publiée.