Les modèles d’IA deviennent plus difficiles à surveiller

LLéna

Joseph Bloom, responsable de la transparence des modèles à l’AI Security Institute britannique, affirme que la capacité à surveiller les modèles d’intelligence artificielle diminue sous différents aspects, selon The Information. Cette surveillance cherche notamment à détecter ce que les modèles tentent de faire et pourquoi, autrement dit à examiner leurs actions et les raisons possibles de ces actions. Elle compte parmi les éléments jugés importants pour assurer le fonctionnement sûr des modèles : comprendre ce qu’ils tentent de faire fait donc partie des enjeux de leur évaluation. L’institut britannique évalue notamment les modèles de grandes entreprises d’intelligence artificielle, ce qui inscrit la surveillance dans un travail concret d’examen de ces systèmes. Bloom s’est exprimé dans une interview présentée comme l’une des premières enregistrées publiquement avec un membre de l’équipe technique de l’institut. Son constat porte sur plusieurs aspects de la capacité à surveiller les modèles, mais les difficultés précises ne sont pas détaillées dans les éléments rapportés. Il ne s’agit donc pas d’un chiffre mesurant une baisse, ni d’une description d’un modèle particulier : l’information porte sur une difficulté générale de surveillance, telle que Bloom la décrit. Pour l’institut, l’enjeu reste d’évaluer ces modèles et de chercher à comprendre ce qu’ils tentent de faire, ainsi que les raisons de leurs actions, dans le cadre des efforts visant à assurer leur fonctionnement sûr.