AWS publie Strands Decider 2B, un modèle de décision léger

EElias

Alors, la nouveauté est une façon différente de confier une tâche à un modèle : au lieu de rédiger une réponse, il sélectionne un résultat structuré. La version v19 de Strands Decider 2B est publiée en open source sous licence Apache-2.0 sur Hugging Face, d’après MarkTechPost. Elle peut choisir parmi plusieurs options, donner une probabilité de réponse oui ou non, ou attribuer un score sur une échelle. À chaque réponse, elle associe un niveau de confiance, sans produire de texte ni expliquer son choix. L’idée est de traiter certaines étapes d’un agent comme un aiguillage : le système a plusieurs voies possibles, et le modèle en retient une. Cela peut éviter de demander à un grand modèle de langage de produire du texte lorsque la tâche consiste seulement à trancher dans un cadre défini. La sortie ne permet pas pour autant de répondre librement à n’importe quelle question. Le modèle se concentre sur des décisions délimitées, avec des réponses possibles définies à l’avance. C’est cette spécialisation qui explique à la fois son intérêt potentiel et ses limites : il peut décider dans un cadre donné, mais ne peut pas improviser une réponse ouverte ni raconter pourquoi il a retenu une option.

EElias

Strands Decider 2B s’appuie sur le modèle de base Qwen3.5-2B. AWS a remplacé la tête habituelle, qui sert à générer du texte, par une tête de pointeur personnalisée d’environ 1 million de paramètres. Cette tête évalue directement les options proposées au lieu de poursuivre la génération mot après mot. La conception permet au modèle de produire les réponses structurées prévues : un choix, une probabilité oui ou non, ou un score, avec un niveau de confiance. Elle ne lui permet pas d’expliquer son choix en texte. D’après SiliconANGLE, AWS a choisi cette taille de modèle pour permettre une exécution sur une machine locale avec une latence inférieure à 150 millisecondes.

EElias

AWS vise notamment les agents qui doivent prendre une décision sans faire appel à un grand modèle de langage complet à chaque étape. Des clients AWS recherchaient ce type de fonction pour leurs processus automatisés, explique Marc Brooker dans TechCrunch. Dans un domaine fermé, où les options sont prévues, le modèle peut servir de composant spécialisé au sein d’un système plus large. Il est conçu pour fonctionner en local, pour l’expérimentation et dans le cloud public. Côté résultats, MarkTechPost rapporte une latence médiane de 115 millisecondes sur une carte graphique RTX 3090 et de 153 millisecondes sur un Mac M3 Pro. Sur le jeu public JevBench v1, la version v19 atteint une précision de 0,723, soit 167 tâches réussies sur 231. Au classement JevBench v1.4.2 du 25 septembre, elle est troisième parmi 33 modèles de la catégorie 2B, ou première sur 30 en écartant 3 modèles légèrement supérieurs à 2 milliards de paramètres. Ce sont des mesures circonscrites à des machines et à des tests précis, pas une garantie de performance pour chaque usage. Le projet est aussi lié à Jev, le modèle de décision de TypeSafe AI : Marc Brooker a commencé son projet après l’avoir découvert, puis Strands Labs a préparé le prototype pour sa publication. Pour les équipes, l’intérêt est donc d’évaluer si une étape de leur agent se résume vraiment à choisir dans une liste, et si les performances mesurées correspondent à leur propre contexte.

EElias

La limite la plus immédiate est qu’un score de confiance n’explique pas une décision et ne garantit pas à lui seul qu’elle soit correcte. Il faut donc vérifier comment ce score se comporte sur les tâches réelles, au lieu de traiter une valeur élevée comme une validation automatique. Sur des tâches courtes de classification qui n’avaient pas été vues à l’entraînement, les réponses avec une confiance d’au moins 0,9 étaient correctes environ 95 % du temps. L’équipe recommande de vérifier ou de faire remonter les réponses sous ce seuil, d’après MarkTechPost. Marc Brooker souligne aussi l’enjeu d’améliorer la précision et le calibrage sans dégrader la compréhension de plusieurs langues ni les connaissances générales, comme l’indique TechCrunch. Enfin, Strands Decider 2B ne génère pas de texte pour justifier ses réponses. Pour une situation ambiguë, une demande ouverte ou une décision dont il faut exposer les raisons, une étape fondée sur un modèle génératif peut rester nécessaire.

EElias

Il faut retenir qu’AWS publie Strands Decider 2B v19, un modèle spécialisé qui choisit parmi des options, estime une probabilité oui ou non, ou attribue un score sur une échelle, sans générer de texte. Il s’appuie sur le modèle de base Qwen3.5-2B, dont la tête de génération est remplacée par une tête de pointeur d’environ 1 million de paramètres. Sur une RTX 3090, sa latence médiane est de 115 millisecondes ; sur un Mac M3 Pro, elle est de 153 millisecondes. Sur JevBench v1, il réussit 167 tâches sur 231, avec une précision de 0,723. Ces résultats décrivent des tests et des configurations précis, et ne garantissent pas les mêmes performances dans toutes les situations. L’intérêt visé est d’offrir une étape de décision potentiellement plus rapide et moins coûteuse aux agents qui n’ont pas besoin des capacités d’un grand modèle de langage à chaque étape. Cela ne remplace pas ces modèles pour une réponse ouverte, une explication ou des tâches de raisonnement complexes. Le score de confiance peut aider à repérer les décisions incertaines, mais il ne raconte pas pourquoi le modèle a choisi telle option. Le test concret pour les développeurs consiste donc à déterminer si leur tâche se ramène à choisir une réponse déjà définie, puis à vérifier le résultat dans leur propre contexte.