InternVL2-1B, un modèle de vision-langage compact

NNoor

Alors, le point de départ, c’est un modèle d’environ 0,9 milliard de paramètres, publié sous licence MIT par OpenGVLab, d’après AlphaSignal. Il réunit InternViT-300M, un encodeur visuel, Qwen2-0.5B-Instruct, un modèle de langage, et un projecteur MLP qui relie les deux composants. Cette association vise à faire traiter au même système des contenus visuels et des demandes formulées en texte, sans recourir à un modèle de très grande taille. Les usages mentionnés comprennent la lecture de documents, l’analyse de graphiques, les images multiples et les vidéos abordées sous forme de séquences d’images. La taille réduite est donc au cœur de la proposition, mais elle ne signifie pas que le modèle soit destiné à toutes les tâches ni qu’il égale les systèmes plus grands dans tous les domaines. Un chiffre marquant concerne OCRBench : le modèle obtient 754 points. C’est un résultat sur un benchmark précis, à interpréter comme tel, plutôt qu’une mesure générale de la qualité du système. La famille InternVL 2.0 comprend aussi des modèles plus grands, tandis que cette version compacte met en avant une combinaison de capacités visuelles dans un format plus limité.

NNoor

En fait, le traitement repose sur plusieurs étapes : l’encodeur visuel produit des représentations de l’image, puis le projecteur les met en correspondance avec celles que peut utiliser le modèle de langage. Pour chaque image, le prétraitement peut choisir un format adapté et créer jusqu’à 12 tuiles de 448 par 448 pixels. Une miniature de l’image entière peut aussi compléter ces zones détaillées, afin de conserver une vue plus globale. Le découpage est conçu pour éviter que des caractères fins ou des indications de graphique ne deviennent trop difficiles à distinguer lorsqu’une grande page est réduite à une seule image. Cela peut être utile pour examiner une page, mais ne garantit pas que chaque petit texte sera correctement reconnu. Le système prend aussi en charge plusieurs images dans un même échange, ce qui permet de lui présenter plusieurs visuels plutôt qu’un seul. Pour la vidéo, l’analyse se fait à partir de séquences d’images : il s’agit donc de traiter des vues successives, et non de conclure à une compréhension parfaite de toute situation filmée.

NNoor

Le modèle est présenté pour l’analyse de documents et de graphiques, ainsi que pour des applications qui manipulent plusieurs images ou des séquences vidéo. Il prend en charge un contexte de 8 000 tokens, c’est-à-dire une capacité à traiter une séquence de texte de cette longueur, en plus des entrées visuelles indiquées. Cela peut convenir à des tâches où un document comporte beaucoup de texte, mais la longueur disponible ne garantit pas, à elle seule, que toutes les informations seront comprises ou restituées correctement. Sur OCRBench, InternVL2-1B obtient 754 points, contre 614 pour PaliGemma-3B et 654 pour Mini-InternVL-2B. Il dépasse donc ces deux modèles dans cette comparaison rapportée, alors que leurs noms indiquent des tailles supérieures. La portée de ce résultat reste circonscrite au benchmark : on ne peut pas en déduire un classement universel, ni une supériorité sur chaque type de document ou de graphique. Pour une équipe qui envisage de l’utiliser, les résultats sur ses propres contenus et ses propres consignes restent à vérifier. Le score donne un repère chiffré, tandis que les fonctions de contexte long, d’images multiples et d’analyse vidéo décrivent les entrées que le modèle prend en charge.

NNoor

InternVL2-1B est compatible avec vLLM, SGLang et LMDeploy, trois outils de déploiement mentionnés pour le modèle. Il peut aussi être quantifié en 8 bits avec BNB, une option destinée à faciliter son utilisation sur des appareils aux ressources limitées. Cette possibilité indique une piste pour réduire les contraintes de déploiement, mais elle ne fournit pas de mesure de mémoire utilisée, de vitesse ou de coût, et ne garantit pas le fonctionnement sur n’importe quel appareil. Le format d’environ 0,9 milliard de paramètres et ces options peuvent donc intéresser des projets qui cherchent à exécuter un modèle localement, à condition de vérifier les besoins matériels et les résultats en pratique. Il faut également tenir compte de l’évolution de la gamme : InternVL2_5-1B, son successeur, est déjà disponible pour les nouveaux projets. Cette disponibilité donne une autre version à examiner avant de choisir une base de travail. Elle ne suffit pas, en elle-même, à établir laquelle répond le mieux à un besoin particulier. La comparaison doit porter sur les tâches, les entrées visuelles et les contraintes réelles de chaque déploiement.

NNoor

InternVL2-1B rassemble plusieurs fonctions de vision et de langage dans un modèle d’environ 0,9 milliard de paramètres. Il accepte des images multiples, peut traiter des séquences vidéo et dispose d’un contexte de 8 000 tokens, tout en obtenant 754 points sur OCRBench. Ce score est à lire dans son cadre précis : il le place devant PaliGemma-3B et Mini-InternVL-2B sur ce benchmark, mais ne permet pas de conclure qu’il est meilleur pour tous les usages. Les possibilités de déploiement avec vLLM, SGLang et LMDeploy, ainsi que la quantification en 8 bits avec BNB, ouvrent des options pour des environnements aux ressources limitées, sans remplacer des essais sur le matériel réellement visé. Pour un projet, il faut donc vérifier la qualité sur ses propres documents, ses graphiques et ses séquences d’images, puis comparer les contraintes d’intégration. Enfin, le successeur InternVL2_5-1B est déjà disponible pour les nouveaux projets, ce qui rend pertinente une comparaison avant de retenir une version. Le lancement met ainsi l’accent sur un modèle compact et multimodal, mais le bon choix dépendra des résultats obtenus dans chaque situation concrète.