CORAL-KV compresse les caches des modèles vidéo

LLéna

CORAL-KV est un cadre de compression des caches d’attention des modèles de diffusion vidéo autorégressive, présenté dans une étude sur arXiv. Son principe consiste à exploiter les dépendances entre les couches du modèle : les clés et les valeurs d’une couche sont prédites à partir des états du cache d’autres couches, plutôt que d’être toutes conservées sous leur forme complète. CORAL-KV quantifie ensuite les résidus, c’est-à-dire les écarts entre les valeurs prédites et celles à représenter, pour compresser ces informations. L’étude constate qu’avec un reconstructeur de premier ordre stable, rendre plus complexe la reconstruction des caractéristiques mises en cache apporte peu de gains ; en revanche, le choix des étapes où effectuer un calcul exact influence davantage la fidélité. Pour mieux évaluer le risque lié au cache, les auteurs proposent aussi de rapporter la variation des sorties d’une sonde superficielle au déplacement correspondant de son entrée : cette normalisation estime le gain directionnel par unité de mouvement sur la trajectoire. L’approche combine donc prédiction, quantification des erreurs et calcul exact à certaines étapes, avec pour objectif de diminuer la mémoire mobilisée sans sacrifier la fidélité de la génération ; l’étude ne fournit pas, dans les éléments disponibles, de mesure chiffrée de cette réduction.