Granite Switch 4.1 réunit plusieurs fonctions

OOndine

IBM présente Granite Switch 4.1, en versions de 8 et 30 milliards de paramètres, comme un modèle qui réunit conversation, décisions et transcription vocale dans un seul point d’accès, d’après Hugging Face. Chaque version associe un modèle de base à un adaptateur de décision généraliste, à un adaptateur Guardian spécialisé dans les décisions de sécurité et à un modèle de transcription vocale. Selon IBM, ces composants occupent environ autant de mémoire vidéo que le modèle de base seul, et le partage du cache entre adaptateurs permet de réutiliser le contexte déjà traité pour les décisions suivantes. L’entreprise entend ainsi ajouter plusieurs capacités sans augmenter sensiblement l’usage de mémoire vidéo. La version de 8 milliards peut transcrire de l’audio en temps réel, en produire des résumés, détecter des contenus nuisibles et vérifier plus de 15 indicateurs génériques depuis le même point d’accès. Pour un flux de génération augmentée par récupération en 5 étapes, IBM affirme que la version de 30 milliards, équipée de 4 adaptateurs de décision spécialisés, a terminé plus rapidement que Jev-27B, doté d’un adaptateur de décision généraliste. Cette comparaison reste une affirmation d’IBM, sans résultats détaillés ni évaluation indépendante indiqués dans les éléments publiés. IBM annonce enfin un kit de développement logiciel pour entraîner des adaptateurs dans Mellea, ainsi que des tutoriels et une prise en charge de Granite Switch.