GPT-6 Astra modifie les poids de Qwen

OOndine

L’équipe du MIT CSAIL a publié lundi une étude sur la programmation dans l’espace des poids, une méthode testée avec GPT-6 Astra, selon Turing Post. Dans une première démonstration, Astra a identifié le jeu Breakout en examinant 17 253 poids d’un petit réseau, sans voir d’image du jeu. Cette expérience montre comment le modèle a déduit le jeu à partir des paramètres du réseau, plutôt qu’à partir de son affichage. Les chercheurs ont ensuite demandé à Astra de réduire les boucles de répétition de Qwen3.5-0.8B lorsqu’il traite des problèmes de mathématiques. Astra a ciblé les couches 15 et 19, puis modifié 131 072 poids, soit environ 0,016 % du modèle. Sur le test MATH-500, le score de Qwen3.5-0.8B est passé de 7,9 % à 48,1 % après cette intervention. L’étude, intitulée « Sparks of Weight-Space Programming », décrit donc une expérience de recherche où un modèle analyse les paramètres d’un réseau, puis en modifie une partie pour agir sur son comportement. Le résultat porte précisément sur les répétitions en mathématiques et sur le score obtenu à MATH-500 : il ne s’agit pas du lancement d’un produit, mais d’une amélioration mesurée dans cette expérience, sur ce test particulier.