CANS cherche à guider les modèles sans affaiblir leurs autres capacités

LLéna

Des chercheurs présentent CANS, une méthode qui cherche à orienter le comportement des grands modèles de langage tout en préservant au mieux leurs capacités générales. L’idée est d’ajuster l’échelle de neurones du modèle, sans le réentraîner. Pour choisir ces réglages, CANS met en balance 2 indicateurs. Le premier suit la log-probabilité des tokens ciblés dans les réponses générées : autrement dit, la place que le modèle leur attribue. Le second mesure la divergence entre les distributions de sortie sur des entrées généralistes. On peut imaginer régler une radio : renforcer une station sans dérégler toutes les autres. Les chercheurs calculent ensuite directement les réglages à appliquer, plutôt que d’essayer plusieurs versions en boucle. Selon leur méthode, cela évite un entraînement itératif et n’ajoute pas de calcul au moment où le modèle répond. Les mêmes étapes peuvent être adaptées à différents domaines, à partir de réponses sélectionnées et de passages associés au comportement visé. Les expériences portent notamment sur la sécurité, la toxicité et les hallucinations, c’est-à-dire les réponses inventées, avec des modèles Qwen et Llama. Sur Qwen3-4B, le taux de réussite d’attaques mesuré avec HarmBench passe de 15,50 % à 1,75 %. En contrepartie, le score moyen de capacités générales baisse de 1,11 point. Les auteurs indiquent que CANS préserve mieux ces capacités que plusieurs méthodes de comparaison, tout en obtenant un contrôle comparable ou supérieur. Mais ces résultats ne signifient pas que la méthode élimine les réponses problématiques, ni qu’elle fonctionne de la même façon sur tous les modèles. Ils proviennent d’expériences portant sur des modèles et des tâches précis, et la publication reste une prépublication. Le point à retenir, c’est donc une piste pour mieux cibler certains comportements, avec un compromis mesuré, mais qui demande encore à être évalué par d’autres chercheurs.