Programmer dans l’espace des poids

MMarc

Des chercheurs décrits par la lettre Latent Space montrent qu’un modèle suffisamment capable peut lire et modifier directement les poids d’un réseau plus petit. Le modèle pourrait notamment s’appuyer sur des traces d’échec pour repérer et corriger des erreurs, ou mener une série d’expériences afin d’améliorer les performances du réseau. Les démonstrations portent sur des tâches limitées, comme des jeux simples et des politiques d’apprentissage par renforcement ; elles ne montrent pas que la méthode fonctionne sur des problèmes plus complexes. Cette intervention directe sur les paramètres pourrait aussi relever de l’interprétabilité mécaniste, une approche qui cherche à comprendre les mécanismes internes des réseaux neuronaux. La lettre Latent Space signale qu’une reproduction indépendante de cette capacité aurait eu lieu, mais ne donne pas assez de détails pour en évaluer la portée. Elle évoque également la possibilité qu’un modèle écrive les poids d’un réseau en une seule fois, voire dépasse certains modèles entraînés séparément ; les conditions et les résultats ne sont toutefois pas précisés.