AWS publie Strands Decider 2B, un modèle de décision léger

EElias

Alors, la nouveauté est une façon différente de confier une tâche à un modèle : au lieu de rédiger une réponse, il sélectionne un choix déjà prévu. AWS a publié Strands Decider 2B en open source, d’après SiliconANGLE. Il ne produit donc ni paragraphe ni code ; sa sortie est une décision prise parmi les options qu’on lui présente. À chaque choix, il associe un score de confiance, qui donne une indication sur la fiabilité estimée de la réponse, sans constituer une explication. L’idée est de traiter certaines étapes d’un agent comme un aiguillage : le système a plusieurs voies possibles, et le modèle en retient une. Cela peut éviter de demander à un grand modèle de langage de produire du texte lorsque la tâche consiste seulement à départager des options. AWS présente cette approche comme un moyen de réduire la latence et la consommation de tokens, c’est-à-dire les unités de texte que les modèles traitent et génèrent. Le modèle ne remplace pas pour autant un système capable de répondre à n’importe quelle question. Il se concentre sur une tâche délimitée, où les réponses possibles sont définies à l’avance. C’est cette spécialisation qui explique à la fois son intérêt potentiel et ses limites : il peut décider dans un cadre donné, mais ne peut pas improviser une réponse ouverte ni raconter pourquoi il a retenu une option.

EElias

AWS a construit Strands Decider 2B à partir de Qwen3.5-2B, un modèle de base qui possède déjà une capacité à traiter des informations. Mais l’entreprise a remplacé la tête habituelle, qui sert à générer du texte, par une tête de pointeur personnalisée d’environ 1 million de paramètres. Cette tête évalue directement les options proposées au lieu de poursuivre la génération mot après mot. Le modèle complet compte 2 milliards de paramètres ; AWS dit avoir choisi cette taille pour permettre une exécution sur une machine locale avec une latence inférieure à 150 millisecondes. C’est une performance annoncée par AWS, et non une garantie de résultat identique sur toutes les machines ou dans toutes les configurations. Le changement de conception rend la sortie plus étroite, mais il ne signifie pas que l’ensemble du modèle soit réduit à cette petite tête : celle-ci s’appuie sur le modèle de base. Le score de confiance accompagne chaque choix et peut aider un système à évaluer la décision. Il ne fournit toutefois pas la justification en langage courant qu’on obtiendrait d’un modèle génératif. En pratique, la méthode convient donc surtout lorsque le système sait déjà formuler les options pertinentes. Si les réponses ne sont pas définies, ou si l’utilisateur attend une explication, cette sortie limitée peut ne pas suffire et une autre étape de traitement peut être nécessaire.

EElias

AWS vise notamment les agents qui doivent prendre une décision sans faire appel à un grand modèle de langage complet à chaque étape. Marc Brooker explique que des clients AWS recherchaient précisément ce type de fonction pour leurs processus automatisés, d’après TechCrunch. Dans un domaine fermé, où les options sont prévues, un modèle peut servir de composant spécialisé au sein d’un système plus large. Les développeurs peuvent faire des essais sur une machine locale ; AWS indique aussi que le modèle est optimisé pour l’expérimentation et les environnements de cloud public. L’entreprise présente cette spécialisation comme potentiellement plus rapide et moins coûteuse, mais ces gains ne sont pas garantis pour chaque usage : ils dépendent de la tâche et de la comparaison effectuée. Le chiffre de latence annoncé, inférieur à 150 millisecondes, concerne une exécution locale selon AWS ; il ne constitue pas un résultat universel. Le projet est aussi lié à Jev, le modèle de décision de TypeSafe AI. Selon TechCrunch, Marc Brooker a commencé son projet après avoir découvert Jev, puis Strands Labs a préparé le prototype pour sa publication. Celui-ci a brièvement atteint la première place de Jevbench parmi les modèles de taille comparable. C’est un résultat situé dans un classement et une catégorie précise, pas une preuve que le modèle serait le meilleur pour toutes les tâches. Pour les équipes, l’intérêt est donc d’évaluer si une étape de leur agent se résume vraiment à choisir dans une liste, et si l’économie possible justifie d’ajouter un composant spécialisé.

EElias

La limite la plus immédiate est qu’un score de confiance n’explique pas une décision et ne garantit pas à lui seul qu’elle soit correcte. Il faut donc vérifier comment ce score se comporte sur les tâches réelles, au lieu de traiter une valeur élevée comme une validation automatique. Le modèle choisit seulement entre les options qu’on lui présente : si ces options sont incomplètes ou ne correspondent pas au problème, son choix peut lui aussi être inadapté. Il peut être utile pour une décision structurée, mais il ne répond pas de la même manière qu’un modèle capable de formuler une réponse libre et d’en développer le raisonnement. Marc Brooker souligne un autre enjeu : améliorer la précision et le calibrage des décisions sans dégrader la compréhension de plusieurs langues ni les connaissances générales, d’après TechCrunch. Le calibrage désigne ici la cohérence entre la confiance attribuée à un choix et la fiabilité réelle de ce choix. Il faut donc éviter de rendre le modèle performant sur un ensemble étroit de décisions au prix de ses capacités plus générales. Ces qualités comptent si l’on veut utiliser le même outil dans des contextes variés, mais les éléments disponibles ne permettent pas de conclure qu’elles sont déjà préservées dans tous les cas. Il faut aussi distinguer une décision automatisée d’une explication compréhensible par un utilisateur : Strands Decider 2B ne génère pas de texte pour justifier ses réponses. Pour une situation ambiguë, une demande ouverte ou une décision dont il faut exposer les raisons, une étape fondée sur un modèle génératif peut rester nécessaire. Le choix dépend donc du besoin précis, et pas seulement de la vitesse annoncée.

EElias

Il faut retenir qu’AWS publie un modèle spécialisé, conçu pour choisir rapidement parmi des options prédéfinies plutôt que pour générer une réponse en texte. Strands Decider 2B repose sur Qwen3.5-2B, avec une tête de pointeur d’environ 1 million de paramètres à la place de la tête de génération habituelle, et l’ensemble compte 2 milliards de paramètres. AWS annonce une latence inférieure à 150 millisecondes sur une machine locale ; ce chiffre dépend des conditions d’exécution et ne doit pas être compris comme une promesse universelle. L’entreprise voit dans ce type de modèle une étape potentiellement moins coûteuse et plus rapide pour les agents qui n’ont pas besoin, à chaque décision, des capacités d’un grand modèle de langage complet. Cela n’annonce pas le remplacement général de ces grands modèles : un agent peut avoir besoin d’une réponse ouverte, d’une explication ou de connaissances générales qu’un système de choix prédéfinis ne fournit pas. Le score de confiance constitue une information utile pour examiner les décisions, mais il ne raconte pas pourquoi le modèle a choisi telle option. Le principal enjeu reste donc d’obtenir des décisions précises et bien calibrées, tout en préservant la compréhension de plusieurs langues et les connaissances générales. Pour les développeurs, le test concret consiste à déterminer si leur tâche se ramène à choisir une option déjà connue, puis à vérifier le résultat dans leur propre contexte. C’est dans ce périmètre limité, et avec ces vérifications, que cette publication peut prendre sa place dans le travail sur les agents d’intelligence artificielle.