Un système à plusieurs agents pour expliquer les modèles

LLéna

Des chercheurs présentent MEA, un système à plusieurs agents destiné à aider des spécialistes à utiliser des méthodes d’explication des modèles d’intelligence artificielle. Leur publication, déposée sur arXiv, s’intéresse à un problème concret : comment choisir des outils d’explication adaptés, puis rendre leurs résultats compréhensibles sans demander aux spécialistes de maîtriser ces outils ? Ces méthodes examinent après coup le comportement d’un modèle. Elles peuvent aider à comprendre ce qui a pesé dans une prédiction, mais leur utilisation demande souvent des compétences techniques. MEA répartit le travail entre deux agents. Le premier, appelé Proposer, choisit et configure des outils selon la question posée et le type de données étudié : texte, tableaux ou images. Le second, appelé Actor, transforme les résultats de ces outils en explications en langage naturel. Son optimisation vise à préserver la fidélité : l’explication doit rester liée au comportement réel du modèle, plutôt que de simplement paraître convaincante. On peut imaginer un cuisinier qui choisit les ustensiles adaptés à une recette, puis explique les étapes suivies. Dans MEA, le premier agent sélectionne les outils ; le second met leurs résultats en mots. La publication présente plusieurs types de questions, par exemple repérer les éléments qui influencent une prédiction, envisager un scénario différent, ou détecter un indice trompeur. Les chercheurs évaluent le système sur 6 jeux de données. Ils rapportent que MEA dépasse plusieurs méthodes d’explication et systèmes de référence. Par rapport à un modèle de langage non optimisé de cette manière, les gains de fidélité annoncés sont de 28 % pour les données tabulaires, de 21 % pour le texte et de 34 % pour les images. Les chercheurs indiquent aussi que des modèles de langage avancés peuvent produire des explications qui ne correspondent pas fidèlement au comportement du modèle examiné.