Les longues fenêtres de contexte en question
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Marc
Les chercheurs de Nvidia jugent que les très grandes fenêtres de contexte sont souvent excessives et coûteuses, selon Brief IA. L’ampleur de ces fenêtres peut pourtant être considérable : GPT 5.6 Sol peut traiter environ un million de tokens, soit assez pour contenir le roman Guerre et Paix, selon Brief IA. Les chercheurs ont évalué si une telle capacité était nécessaire dans les situations étudiées, en comparant l’analyse du contexte complet à des résumés périodiques et à des recherches ciblées par mots-clés, d’après The Decoder. Cette méthode repose sur deux opérations : résumer régulièrement les informations disponibles, puis effectuer une recherche ciblée pour retrouver les éléments utiles. Dans plusieurs tests, cette approche a obtenu des résultats comparables à ceux de l’utilisation du contexte complet, tout en coûtant nettement moins cher. Les résultats décrits portent sur ces tests et ne permettent pas de conclure que les résumés et les recherches ciblées remplacent le contexte complet dans toutes les situations. L’équipe de recherche de Nvidia propose d’explorer une nouvelle catégorie de modèles fonctionnant à partir de notes courtes plutôt que de longs contextes. L’idée est donc de concevoir des modèles capables de travailler avec ces notes, une piste qui pourrait réduire le recours aux très longues fenêtres de contexte, souvent jugées coûteuses par les chercheurs.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.