Quand le regard aide à évaluer les réponses d’une IA
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Léna
Une étude déposée sur arXiv examine comment le suivi du regard peut aider à entraîner un modèle de récompense, un outil qui attribue un score aux réponses d’un modèle de langage pour guider leur apprentissage. Dans l’apprentissage à partir des retours humains, les réponses peuvent être comparées selon les préférences exprimées par des personnes. Le modèle de récompense apprend alors à distinguer les réponses jugées préférables. La recherche ajoute à cet apprentissage un signal lié à la lecture : l’endroit où une personne regarde. Jusqu’ici, certaines approches du suivi oculaire s’appuyaient surtout sur les points de fixation, les endroits précis où le regard s’arrête. La méthode proposée décrit plutôt l’attention comme une distribution graduée dans l’espace, centrée sur le point fixé. On peut se la représenter comme la lumière d’une lampe : elle est la plus forte au centre, puis s’atténue autour. Le modèle reçoit donc non seulement la position exacte du regard, mais aussi une indication de l’attention portée aux zones voisines. Cette représentation s’inspire de travaux de psychologie cognitive sur la reconnaissance des lettres. Quand on lit, le traitement visuel ne se limite pas forcément à la lettre exactement fixée par les yeux ; les lettres proches peuvent aussi contribuer à la perception. Les chercheurs intègrent cette distribution du regard à l’entraînement du modèle de récompense, afin de lui fournir une information plus nuancée que le seul point de fixation. Le résumé de la publication annonce que le modèle entraîné avec cette méthode prédit les préférences avec une meilleure précision qu’un modèle de référence. Il indique aussi que certains résultats expérimentaux concordent, sur le plan qualitatif, avec des observations établies sur l’attention humaine pendant la lecture. Mais l’ampleur de l’amélioration n’est pas précisée. Le résumé ne permet donc pas de savoir de combien la précision progresse, ni dans quelles situations l’approche serait la plus utile. Et cette concordance ne suffit pas à établir que le modèle comprend l’attention comme un lecteur humain.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.