JEV-9B, un modèle pour décider vite

OOndine

AutoTrust AI publie JEV-9B pour produire rapidement des décisions avec leurs probabilités, tout en conservant la génération de texte et le raisonnement de Qwen3.5-9B. Le modèle compte 9 milliards de paramètres et ses poids sont ouverts, ce qui permet de les consulter et de les utiliser. L’idée est d’ajouter au modèle de base un bloc spécialisé dans les décisions rapides, sans remplacer sa capacité à rédiger et à raisonner. Imaginez un formulaire avec plusieurs cases : la voie rapide attribue une probabilité à chaque choix lorsque le modèle répond directement. Pour une question qui demande plusieurs étapes, comme un calcul, un comptage ou une comparaison de dates, une seconde voie lit les probabilités après la réflexion du modèle. Elle réutilise le prompt déjà traité, plutôt que de refaire ce travail. Selon AlphaSignal, AutoTrust a entraîné ce bloc spécialisé, qui compte 40,2 millions de paramètres, en environ 3 heures sur un processeur graphique Nvidia B200. Pour tester les décisions, l’équipe a comparé JEV-9B au modèle fermé Jev 1.13, de TypeSafe. Sur 25 376 questions réparties dans 53 domaines, l’écart moyen entre leurs distributions de probabilités atteint environ 0,019 nat. Plus cette mesure est proche de zéro, plus les distributions se ressemblent. Mais elle évalue la fidélité de l’imitation, pas la justesse des réponses. Le modèle conserve aussi un score de 70,7 % au test de programmation HumanEval, comme Qwen3.5-9B. Les 164 complétions de code sont identiques à celles du modèle de base. En revanche, fusionner le bloc spécialisé avec ce modèle fait baisser le score à 61,6 %. C’est pourquoi les blocs restent séparés. Enfin, la latence médiane annoncée est de 90 millisecondes par décision, mais les détails de mesure disponibles ne permettent pas de vérifier ce chiffre.