MASS, quand un modèle apprend à organiser sa propre équipe d’agents

NNoor

D’après AlphaSignal, MASS, pour Multi-Agent Self-Supervision, confie plusieurs fonctions à un seul modèle partagé. Il agit d’abord comme une équipe d’exécutants, chargée de résoudre une tâche de recherche, puis comme un optimiseur qui revoit l’organisation de cette équipe, et enfin comme un évaluateur qui compare les résultats. Le modèle s’entraîne ensuite à partir des trajectoires jugées les meilleures, c’est-à-dire du déroulement du travail et des productions associées. L’idée importante, alors, est de ne pas seulement améliorer une réponse finale : on cherche aussi à améliorer la manière dont les agents se répartissent le travail et échangent leurs résultats. Les auteurs présentent cette méthode comme une boucle d’auto-amélioration, dans laquelle le même modèle produit les solutions, examine leur qualité et apprend des essais retenus. Le système n’a donc pas besoin d’un modèle différent pour chacune de ces fonctions.

NNoor

Un workflow, ici, c’est un plan écrit qui précise les rôles des agents, les instructions qu’ils reçoivent, les éléments qu’ils doivent remettre et l’ordre de leurs échanges. MASS conserve un workflow de référence, puis en essaie une autre version sur la même tâche. Les agents exécutent ce plan et rassemblent leurs messages et leurs productions dans un espace de travail. L’évaluateur compare cet ensemble au résultat obtenu avec le workflow de référence, puis transmet cette comparaison à l’optimiseur, qui peut proposer une nouvelle organisation. Bon, il ne s’agit donc pas simplement d’ajouter des agents : il faut préciser qui fait quoi, ce qui doit être vérifié et comment le travail passe d’un agent à l’autre. L’amélioration de ces consignes et de ces relais devient elle-même une partie de l’apprentissage. Les poids du modèle restent fixes pendant cette recherche de workflow, avant l’étape où le système apprend à partir des meilleures trajectoires.

NNoor

Les auteurs ont testé MASS sur Qwen3.6-27B, un modèle de 27 milliards de paramètres, et rapportent des gains après 2 cycles d’entraînement. Sur 4 benchmarks de recherche, le score par jeton généré atteint entre 1,2 et 1,6 fois le niveau de comparaison annoncé. Ce ratio rapporte donc le score obtenu à la quantité de texte produite : il vise à mesurer la performance au regard des jetons consommés, plutôt qu’à présenter seulement une note finale. Les chercheurs indiquent également que les trajectoires multi-agents atteignent les résultats rapportés avec 31 % de jetons en moins que les trajectoires mono-agent. Autrement dit, dans leurs essais, les traces d’un travail réparti entre plusieurs agents fournissent un signal d’apprentissage plus dense. Il faut toutefois garder la portée de ces chiffres en tête : ils correspondent aux évaluations rapportées par les auteurs, sur ce modèle et ces quatre benchmarks, et ne démontrent pas à eux seuls un gain identique sur toutes les tâches de recherche.

NNoor

Le cas étudié concerne des tâches de recherche ouvertes, où il n’existe pas forcément une réponse modèle facile à comparer à la production du système. Dans ce contexte, MASS pourrait intéresser les équipes qui entraînent des modèles capables de mener plusieurs étapes de travail, en particulier lorsque la façon de collaborer compte autant que la réponse finale. Les résultats présentés portent cependant sur un modèle précis et quatre benchmarks ; ils ne permettent pas de conclure que la méthode conviendra à tous les usages ou à tous les systèmes. Côté ressources, le chiffre mis en avant est la baisse de 31 % du nombre de jetons dans les trajectoires multi-agents pour les résultats rapportés. Ce chiffre ne donne pas, à lui seul, le coût total de l’entraînement, ni le temps de calcul ou la quantité d’énergie utilisés. Il décrit surtout une mesure de texte généré dans les essais. En fait, distinguer ces indicateurs évite de confondre une meilleure efficacité en jetons avec une baisse démontrée de toutes les dépenses de calcul.

NNoor

Les tâches de recherche ouvertes sont difficiles à évaluer, parce qu’elles peuvent manquer de tests automatiques, de réponses de référence ou d’une récompense objective. Quand le modèle produit aussi l’évaluation, une erreur peut se propager : une hypothèse fausse pourrait être intégrée à une solution, recevoir une appréciation positive, puis être reprise lors d’un apprentissage ultérieur. Le découpage en agents ne fait donc pas disparaître le problème de fiabilité ; il organise le travail, mais les rôles restent assurés par le même modèle. Les auteurs indiquent que, dans leurs analyses, le principal goulot d’étranglement de la vitesse d’auto-amélioration est l’optimisation du workflow, plutôt que l’évaluation des résultats. C’est un enseignement important, car l’efficacité dépendrait alors moins de la seule capacité à noter une réponse que de la capacité à améliorer la façon dont les agents travaillent ensemble. Cette conclusion est rapportée par les auteurs et doit être comprise dans le cadre de leur étude, sans la transformer en règle générale pour tous les systèmes d’intelligence artificielle.

NNoor

À retenir : MASS transforme l’organisation d’une équipe d’agents en objet d’apprentissage. Un même modèle exécute les tâches, propose des améliorations au workflow, compare des trajectoires et s’entraîne sur celles qui sont préférées. Sur Qwen3.6-27B, les auteurs annoncent qu’après 2 cycles, le score par jeton progresse entre 1,2 et 1,6 fois sur quatre benchmarks, avec 31 % de jetons en moins pour les trajectoires multi-agents. Ce sont des résultats encourageants, mais encore circonscrits aux expériences décrites ; les difficultés d’évaluation et les risques d’erreurs qui se renforcent restent essentiels à examiner. L’étude et le code de MASS sont disponibles sur arXiv et GitHub, ce qui permet de consulter la méthode et son implémentation. La question, désormais, est de savoir si ces gains se retrouvent sur d’autres modèles et d’autres tâches, et si l’amélioration des workflows peut rester fiable quand les problèmes deviennent plus complexes.