Google présente RRSI pour limiter la mémorisation des tests par les agents IA

OOndine

Des chercheurs de Google Cloud AI Research et de plusieurs universités proposent RRSI, une méthode de régularisation destinée à empêcher les agents d’intelligence artificielle auto-améliorés de se suradapter à leurs tâches de test, selon The Decoder. RRSI limite le nombre de modifications que l’agent peut proposer en même temps, puis réduit progressivement ce budget d’édition. La méthode ajoute aussi un critique chargé d’écarter les changements qui codent en dur des tâches ou des solutions propres aux benchmarks. L’objectif est de limiter la mémorisation des tests et de favoriser des améliorations qui se retrouvent aussi sur des évaluations inédites. D’après les résultats rapportés, les scores progressent jusqu’à 4,7 points sur ces benchmarks inédits. RRSI utilise également environ 30 % de jetons en moins qu’une version sans régularisation. Les chercheurs présentent donc une méthode qui encadre à la fois les modifications du harnais et leur rythme, tout en filtrant les modifications liées à des tests précis. Les résultats rapportés portent sur les benchmarks étudiés : ils ne permettent pas d’affirmer que RRSI élimine toute suradaptation ou qu’il fonctionne dans toutes les situations.