Interprétabilité

TThéa

L’interprétabilité, c’est la capacité à rendre compréhensible le fonctionnement d’un modèle d’intelligence artificielle, notamment les éléments qui influencent une réponse ou une décision. Imaginez une boîte qui classe des candidatures : au lieu de recevoir seulement un verdict, on voudrait savoir quels critères ont pesé, comme l’expérience ou les compétences, un peu comme lorsqu’on demande à quelqu’un d’expliquer son choix. Pour les systèmes d’intelligence artificielle, cette compréhension peut aider à repérer une erreur, à vérifier qu’un résultat repose sur des éléments pertinents et à mieux évaluer les risques avant d’utiliser le modèle dans un domaine sensible. Elle peut aussi faciliter le travail des personnes qui doivent contrôler le système ou expliquer ses décisions aux utilisateurs. Mais une explication n’est pas forcément une photographie exacte du calcul interne : certains modèles sont si complexes que leurs mécanismes restent difficiles à décrire, et une explication simplifiée peut donner une impression trompeuse de certitude.