Sakana AI et Berkeley présentent MASS

MMarc

Sakana AI et des chercheurs de l’Université de Californie à Berkeley présentent MASS, une méthode d’auto-amélioration pour les modèles d’intelligence artificielle, décrite dimanche par le média AlphaSignal. MASS, pour Multi-Agent Self-Supervision, confie plusieurs rôles à un même modèle au cours d’un processus de recherche. Le modèle agit comme exécutant, puis comme optimiseur du workflow, c’est-à-dire de l’organisation des étapes de travail, et enfin comme évaluateur. Il peut ainsi produire des trajectoires multi-agents, les évaluer, puis ajuster l’organisation du travail avant un nouveau cycle. Le modèle est ensuite entraîné sur les trajectoires jugées les meilleures, qui servent de signal pour améliorer ses performances. Sur Qwen3.6-27B, un modèle de 27 milliards de paramètres, deux cycles d’entraînement ont produit entre 1,2 et 1,6 fois plus de score par jeton généré sur quatre benchmarks de recherche, selon les auteurs. Ce résultat porte sur le score obtenu rapporté au nombre de jetons générés, et non sur une mesure générale de la qualité du modèle. Les trajectoires multi-agents fournissent aussi un signal d’entraînement plus dense que les trajectoires mono-agent, avec 31 % de jetons en moins pour atteindre les résultats rapportés. Les auteurs estiment que l’optimisation du workflow, davantage que l’évaluation des résultats, constitue le principal goulot d’étranglement de la vitesse d’auto-amélioration. L’article présentant MASS et son code ont été publiés sur arXiv et GitHub.