Mitsuba compresse un modèle de vision

MMarc

Mitsuba est une version compressée du modèle de vision-langage Qwen3.8-27B, avec une quantification ternaire d’environ 1,58 bit par poids, selon AlphaSignal. Ses fichiers occupent 7,3 gigaoctets, ou 6 gigaoctets selon le format, et le modèle peut fonctionner sur une carte graphique dotée de 16 gigaoctets de mémoire. Il est conçu pour analyser des images et produire des prompts structurés destinés à des outils comme ComfyUI, Stable Diffusion et Krea, ainsi qu’à des chaînes de production vidéo. Dans les résultats rapportés, son score en vision est de 87,8, contre 89,8 pour le modèle d’origine au format BF16. En programmation, le score passe de 66 pour le modèle d’origine à 4 pour Mitsuba ; cette différence souligne que la version compressée est spécialisée, plutôt que polyvalente. Pour l’utiliser, il faut recourir à la version de llama.cpp adaptée par PrismML : la version principale ne prend pas encore en charge les formats employés. L’utilisation de Mitsuba exige aussi de désactiver le mode « thinking », indique AlphaSignal, qui précise que cette option peut provoquer des réponses souvent vides. Enfin, selon les essais rapportés, le modèle aurait respecté toutes les contraintes demandées dans 6 cas sur 10 ; les mots requis, les exclusions, la longueur et la structure des prompts restent à vérifier.