Brève

Unsloth publie des versions quantifiées d’Ornith-1.5-122B

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Léna

Unsloth a publié mardi des versions quantifiées au format GGUF d’Ornith-1.5-122B, un modèle de mélange d’experts de 122 milliards de paramètres conçu pour le raisonnement et la programmation, selon AlphaSignal. Ces fichiers déclinent le même modèle en plusieurs formats et tailles, afin de proposer des versions moins volumineuses que le modèle d’origine : la plus compacte annoncée, UD-IQ1_M, occupe 40,4 gigaoctets, contre 249 gigaoctets pour la version BF16. La version Q4 peut, elle, fonctionner sur un processeur graphique doté de 80 gigaoctets de mémoire ; cette indication concerne cette variante, tandis que les tailles des autres fichiers diffèrent selon leur quantification. Ornith-1.5-122B dispose aussi d’une fenêtre de contexte native de 262 000 tokens, extensible à environ un million avec la méthode YaRN, ce qui augmente la quantité de texte que le modèle peut prendre en compte dans un même contexte. Le modèle est présenté sous licence MIT et compatible avec plusieurs outils d’inférence, notamment vLLM, SGLang, llama.cpp et Ollama ; ces noms désignent les moteurs et logiciels indiqués comme compatibles. Pour évaluer ses capacités en programmation, Ornith rapporte un score de 76,9 sur SWE-bench Pro et de 81,2 sur TerminalBench 2.1. Les résultats sont plus mitigés sur certains autres benchmarks, selon AlphaSignal : les scores annoncés ne donnent donc qu’une partie des résultats rapportés, et ne permettent pas de conclure à des performances identiques sur tous les tests.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.