Une vérification par rang pour accélérer la génération par diffusion

MMarc

Les auteurs proposent RASS, une règle de vérification pour les arbres de brouillons spéculatifs en génération par diffusion, dans une étude publiée sur arXiv. Elle repose sur un couplage de listes qui tient compte du rang des candidats proposés. Pour établir ce classement, RASS utilise le déplacement moyen entre la distribution de proposition et celle du modèle cible. La méthode attribue ensuite des poids optimisés aux rangs et en échantillonne un. Elle exploite ainsi le classement des candidats sans demander d’évaluations supplémentaires du modèle cible. Dans ce cadre, les brouillons spéculatifs forment un arbre de propositions, et RASS intervient pour vérifier ces propositions au cours de la génération par diffusion. Les auteurs présentent ainsi une règle de vérification conçue pour les arbres de brouillons spéculatifs, et non une méthode de génération indépendante. L’approche vise à utiliser l’information contenue dans l’ordre des candidats sans accroître les évaluations du modèle cible à cette étape.