Rep2Text peut reconstituer des prompts depuis un vecteur caché

LLéna

Rep2Text, une méthode de recherche sur la confidentialité des modèles de langage, reconstruit une partie d’un prompt à partir du vecteur caché associé à son dernier token, selon AlphaSignal. Un adaptateur entraîné projette ce vecteur vers les embeddings d’un modèle décodeur, qui génère une reconstruction du texte sans recherche itérative au moment du décodage. Cette opération ne nécessite pas non plus d’indice spécifique au moment de la reconstruction, mais l’entraînement de l’adaptateur exige des exemples appariés de textes et d’activations. Sur des passages de Wikipédia de 16 tokens, Rep2Text récupère environ la moitié des tokens, avec un score ROUGE-1 compris entre 0,45 et 0,52. Les reconstructions préservent souvent le sujet, les entités et la structure des phrases, sans garantir la formulation exacte du texte d’origine. Les essais portent notamment sur Llama-3.1-8B, Llama-3.2-3B, Mistral-7B-v0.1 et Gemma-7B, ainsi que sur des décodeurs Llama et Qwen allant jusqu’à 32 milliards de paramètres. Le décodage peut fonctionner entre familles de modèles, mais les résultats sont meilleurs sur des entrées courtes proches des données d’entraînement, et retrouver la formulation exacte devient plus difficile lorsque les textes s’allongent.