Hugging Face alerte sur les limites des évaluateurs d'IA

CCapucine

Irene Solaiman, responsable des politiques chez Hugging Face, estime que les évaluateurs intégrés aux laboratoires d’intelligence artificielle ne constituent pas une solution simple aux limites des évaluations. Dans un entretien à TechCrunch Disrupt, dont TechCrunch rend compte, elle appelle à standardiser davantage les critères qui permettent de déterminer si un évaluateur est efficace pour une tâche donnée. Cette demande intervient alors que les évaluateurs intégrés, des observateurs tiers placés au sein d’organisations d’intelligence artificielle, suscitent un intérêt croissant, indique TechCrunch. Les méthodes d’évaluation évoluent encore et ne permettent pas toujours de comparer les tests entre eux. Solaiman estime qu’une approche plus cohérente est nécessaire pour que l’industrie puisse s’appuyer sur ces résultats. Cette demande s’inscrit dans un débat plus large sur le rôle des évaluateurs intégrés. Ces observateurs tiers sont présentés comme une manière d’examiner les risques au sein même des organisations d’intelligence artificielle. Leur popularité s’est accrue après des incidents de sécurité qui ont ravivé les inquiétudes sur les risques potentiels de ces technologies. Hugging Face aurait été visée par l’un de ces incidents, rapporte TechCrunch, sans que l’extrait en précise les circonstances. Plusieurs laboratoires ont défendu le recours à des évaluateurs externes plutôt qu’à une régulation gouvernementale active. Mais leur neutralité et leur efficacité restent discutées. TechCrunch indique que la désignation d’Accenture par Anthropic comme premier évaluateur a suscité des critiques. Certains observateurs auraient mis en doute les compétences de l’entreprise pour cette mission. La question porte donc aussi sur les critères qui permettraient d’apprécier l’efficacité d’un évaluateur selon les tâches. Standardiser ces qualifications est la piste avancée par Solaiman, sans que cela suffise à trancher le débat sur l’impartialité.

CCapucine

L’évaluation s’est aussi élargie. Irene Solaiman estime que le test doit porter sur le système complet, et pas seulement sur le modèle. Il comprend aussi le harness, l’outil qui permet d’accéder au modèle, et l’agent qui réalise une tâche. Selon Brief IA, Solaiman souligne qu’un harness plus performant peut permettre à un modèle moins puissant de dépasser un modèle de pointe. Solaiman juge les évaluations agentiques particulièrement difficiles et coûteuses. Les méthodes doivent donc prendre en compte ces différents éléments du système, plutôt que le modèle seul. Elle appelle aussi à standardiser davantage les critères qui définissent l’efficacité d’un évaluateur selon les tâches. La reproductibilité est un autre point déterminant. Selon TechCrunch, Solaiman estime que vérifier un résultat suppose notamment un accès suffisant au modèle. L’ouverture des poids peut contribuer à cet accès. Elle juge également que les méthodes actuelles ne permettent pas de comparer significativement les différentes évaluations. Ce qu’il faut retenir, c’est que l’évaluation des systèmes d’intelligence artificielle pose plusieurs questions distinctes : comment comparer les tests, reproduire leurs résultats et évaluer l’ensemble formé par le modèle, le harness et l’agent. Leur efficacité selon les tâches, comme leur impartialité, reste discutée.