Le miroir Unsloth de Llama 3.2 dépasse 800 000 téléchargements

LLéna

Unsloth a dépassé les 800 000 téléchargements avec son miroir de Llama-3.2-1B-Instruct sur Hugging Face, d’après AlphaSignal. Le dépôt affiche précisément 802 000 téléchargements et 3 600 mentions J’aime pour ce modèle de Meta, un niveau d’utilisation qui montre l’intérêt suscité par cette version accessible sur la plateforme. Contrairement au dépôt original de Meta, le miroir d’Unsloth est accessible sans authentification ; cette différence facilite la récupération du modèle dans des notebooks Colab et des pipelines d’intégration continue, sans étape de connexion à automatiser. Ces environnements permettent de tester le modèle dans un notebook ou de l’intégrer à un flux de travail automatisé, sans devoir s’authentifier pour le télécharger depuis ce dépôt. Unsloth propose aussi des versions quantifiées au format GGUF, depuis un fichier de 422 mégaoctets jusqu’au format BF16, ainsi qu’une variante en 4 bits destinée notamment à l’entraînement QLoRA. Ces formats donnent plusieurs options pour récupérer le modèle, tandis que la variante 4 bits vise l’adaptation par entraînement plutôt que le seul téléchargement. Selon l’article, elle permettrait un entraînement QLoRA deux fois plus rapide, avec 70 % de mémoire en moins ; ces performances sont rapportées pour cette variante et cet usage précis. Pour l’inférence hébergée, le tarif annoncé commence à 0,027 dollar par million de jetons d’entrée auprès de 6 fournisseurs cloud ; il s’agit d’un prix de départ pour exécuter le modèle via un service hébergé, distinct du téléchargement des fichiers.