Granite Switch 4.1 : IBM rassemble chat, décisions et parole

TThéa

IBM a annoncé Granite Switch 4.1 jeudi, avec deux modèles modulaires de 8 et 30 milliards de paramètres, d'après Unite.AI. Ils combinent un modèle de base, un adaptateur généraliste de décision, un adaptateur Guardian dédié à la sécurité et un encodeur de transcription vocale baptisé Granite-Speech-5.0-Turbo-CTC, le tout réuni dans un même point d’accès hébergé. Cette annonce a été détaillée dans un billet signé par Kate Soule, Subhajit Chaudhury, Hendrik Strobelt et Luis A. Lastras.

TThéa

Selon IBM, les composants intégrés occupent environ autant de mémoire vidéo que le modèle de base fonctionnant seul. La méthode repose sur l'utilisation d'adaptateurs aLoRA légers qui partagent le cache clé-valeur du modèle principal. Ce partage permet de conserver et de réutiliser le contexte calculé lors de la génération initiale pour toutes les décisions ultérieures, sans recalcul lourd. Sur le plan pratique, la version à 8 milliards de paramètres peut ainsi, depuis son unique point d’accès et en temps réel, transcrire de l’audio, générer des résumés, repérer des contenus nuisibles et contrôler plus de 15 indicateurs génériques.

TThéa

Pour les développeurs, le système ne se limite pas à ces configurations préétablies. IBM annonce prévoir un kit de développement logiciel, un SDK d’adaptateurs, afin de permettre d'entraîner ses propres briques d'adaptation dans Mellea, avec des tutoriels et une prise en charge complète pour Granite Switch. L’entreprise met aussi en avant la rapidité d'exécution de son dispositif. Selon IBM, dans une comparaison portant sur un flux de recherche augmentée par génération en cinq étapes, le modèle Granite-Switch-4.1-30B configuré avec quatre adaptateurs spécialisés a terminé le traitement plus vite que Jev-27B, qui n'employait qu'un seul adaptateur générique de décision.

TThéa

Néanmoins, les performances comparatives mises en avant par le constructeur appellent à la prudence. IBM affirme que son adaptateur Guardian surpasse en moyenne Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions et Clef-Flash sur des tâches de décision liées à la sécurité. L’entreprise présente également Granite-Speech-5.0-Turbo-CTC comme le modèle de reconnaissance vocale automatique le plus rapide du classement OpenASR. Cependant, les résultats détaillés de ces tests et des évaluations indépendantes ne sont pas fournis, comme le relève Hugging Face. Ce sont précisément ces vérifications indépendantes et les mesures chiffrées qu'il faudra surveiller pour jauger l'efficacité réelle de ces modèles. À retenir : Granite Switch 4.1 centralise parole, texte et décisions de modération sur un point d'accès unique en optimisant la mémoire vidéo, mais la supériorité technique avancée par IBM reste encore à confirmer en dehors de ses propres tests.