Une version communautaire de Qwen2.5-Coder dépasse 775 000 téléchargements

OOndine

Une version communautaire quantifiée en 4 bits de Qwen2.5-Coder-7B-Instruct, le modèle de programmation d’Alibaba, a dépassé les 775 000 téléchargements sur Hugging Face, selon AlphaSignal. Elle utilise la méthode AWQ et occupe environ 5,7 gigaoctets de mémoire vidéo, ce qui pourrait permettre son fonctionnement sur certaines cartes graphiques grand public dotées de 8 gigaoctets. Un contexte de 32 000 tokens est annoncé pour cette version, mais cette capacité ne signifie pas que chaque configuration pourra l’exploiter sans ajustement. Les activations et le cache K V peuvent rester en précision supérieure à celle des poids quantifiés, et les performances dépendent notamment des réglages d’inférence. Le compteur de Hugging Face peut inclure des téléchargements répétés ou automatisés : il ne permet donc pas de déduire le nombre d’utilisateurs uniques ni de mesurer l’adoption réelle du modèle. Le modèle d’origine est distribué sous licence Apache 2.0 et a été entraîné sur 5 500 milliards de tokens de code couvrant 92 langages de programmation. Les scores rapportés pour ce modèle sont de 87,8 % sur HumanEval, 28,6 % sur LiveCodeBench et 20,3 % sur SWE-Bench Verified. Ces résultats donnent des repères, mais ne garantissent pas les mêmes performances sur chaque ordinateur ni pour chaque tâche : la mémoire disponible et les paramètres de lancement peuvent modifier l’expérience.