QEMem et la mémoire des agents de grands modèles de langage

MMarc

QEMem est un cadre proposé pour construire des ensembles de preuves adaptés à chaque requête, à partir de la mémoire des agents de grands modèles de langage, d’après arXiv. Les auteurs pointent un écart entre retrouver des souvenirs pertinents et disposer d’éléments suffisants pour étayer une réponse. En effet, une information utile peut être fragmentée entre plusieurs souvenirs ; elle peut aussi être masquée par une abstraction ou séparée des relations nécessaires au raisonnement. Autrement dit, un souvenir pertinent pris isolément ne constitue pas forcément une preuve suffisante, et plusieurs éléments peuvent devoir être considérés ensemble pour répondre à la requête. QEMem vise donc à assembler des éléments issus de plusieurs niveaux de mémoire, en privilégiant des ensembles adaptés à la question plutôt que des souvenirs sélectionnés séparément pour leur seule pertinence. Le cadre comprend une recherche guidée par la requête, menée à plusieurs granularités, puis une organisation des éléments récupérés en ViewCards structurées, ancrées dans leurs sources et dotées de rôles probatoires explicites. Ces cartes sont ainsi censées distinguer la provenance des éléments et le rôle qu’ils jouent comme preuves ; l’approche met l’accent sur leur assemblage et leur structuration, sans que cela garantisse à lui seul une réponse correcte. L’enjeu mis en évidence est donc de ne pas confondre la récupération d’informations utiles avec la constitution d’un ensemble de preuves adapté à la question et aux liens nécessaires au raisonnement.