Brève

Alibaba publie un modèle multimodal compact

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Léna

Alibaba a publié Qwen3.5-0.8B-Base, un modèle multimodal préentraîné de moins d’un milliard de paramètres, sous licence Apache 2.0, selon AlphaSignal. Le modèle traite nativement le texte, les images et les vidéos grâce à une architecture à fusion précoce, qui combine ces modalités dans un même modèle. Son contexte natif atteint 262 144 tokens ; il peut être étendu au-delà d’un million par extrapolation, mais cette extension ne correspond pas à la fenêtre native annoncée. L’architecture compte 24 couches, dont 75 % utilisent Gated DeltaNet, tandis que les autres reposent sur l’attention classique ; cette organisation hybride vise notamment à réduire la mémoire nécessaire au cache des clés et des valeurs. La réduction de cette mémoire peut être utile pour exécuter des séquences longues, mais elle ne change pas la limite du contexte natif annoncée pour le modèle. Qwen3.5-0.8B-Base est annoncé compatible avec Transformers, vLLM, SGLang, llama.cpp et Docker Model Runner, ce qui ouvre plusieurs possibilités pour l’intégrer à différents environnements logiciels. Mais il s’agit d’un modèle de base, sans réglage pour suivre des instructions : un affinage supplémentaire peut donc être nécessaire pour des applications pratiques. Ses capacités multimodales ne signifient pas, à elles seules, qu’il soit configuré pour répondre directement aux demandes d’un utilisateur ; il faut distinguer le traitement de plusieurs types de contenus du suivi d’instructions.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.