OriTTA adapte un modèle échantillon par échantillon

LLéna

Des chercheurs présentent OriTTA, une méthode d’adaptation à l’inférence pour traiter des flux de données sans étiquettes, où les échantillons arrivent un par un, dans une publication sur arXiv. Son nom complet, Origin-recentered Test-Time Adaptation, décrit une méthode qui adapte les caractéristiques utilisées par un modèle pendant l’inférence, à mesure que les échantillons lui sont présentés. OriTTA est conçue pour un flux où chaque nouvel échantillon est traité sans disposer d’une étiquette ; la méthode ne repose donc pas sur la constitution préalable d’un lot d’exemples étiquetés. Elle s’appuie sur le modèle source, dont le classifieur reste gelé, et sur l’idée qu’une corruption peut déplacer les caractéristiques sans modifier les régions de décision du classifieur. À partir de ce modèle source, OriTTA construit des cibles géométriques fixes, puis adapte vers elles les caractéristiques sélectionnées. La méthode choisit aussi une nouvelle origine dans l’espace des caractéristiques, afin de rapprocher les scores des classes. Le recentrage vise ainsi à exploiter la géométrie du classifieur existant pour adapter les caractéristiques au fil des arrivées, sans demander d’étiquettes pour chaque échantillon. Ce qu’il faut retenir, c’est une adaptation pensée pour fonctionner échantillon par échantillon, en s’appuyant sur les cibles définies à partir du modèle source plutôt que sur des étiquettes nouvelles.