Ollama améliore la prise en charge de Nemotron

OOndine

Ollama est un outil qui permet d’utiliser des modèles d’intelligence artificielle, et sa nouvelle mise à jour ajoute la prise en charge de Nemotron 3.5 Super et de sa variante Bolt. Publiée mercredi, cette version apporte aussi des changements pour les modèles accessibles dans le cloud et les conversations avec appels d’outils, selon GitHub. Nemotron 3.5 Super est un modèle capable de traiter du texte et des images. Il compte 120 milliards de paramètres, dont 12 milliards actifs pour chaque jeton traité. Son contexte peut atteindre 1 million de jetons. Il intègre aussi un encodeur visuel, des outils et un mode de réflexion que l’on peut activer ou désactiver. La variante Nemotron 3.5 Bolt vise un usage plus compact. Elle compte 74 milliards de paramètres, dont 9 milliards actifs. Ollama la présente comme conçue pour tenir sur un processeur graphique NVIDIA doté de 24 gigaoctets de mémoire. Un modèle associé peut accélérer le décodage. Ces caractéristiques intéressent les personnes qui veulent utiliser des modèles pour des tâches d’agent, tout en ciblant un matériel moins puissant que celui nécessaire à Super. La mise à jour rend également les modèles de décision accessibles dans le cloud d’Ollama, sans les télécharger localement. Elle corrige une erreur qui pouvait interrompre la reprise de conversations compatibles avec l’interface de programmation d’OpenAI, lorsqu’elles comportaient des appels d’outils personnalisés. Les messages d’erreur liés à l’accès cloud deviennent plus clairs. Enfin, Ollama actualise llama.cpp et MLX ; cette mise à jour de llama.cpp apporte notamment la prise en charge de Nemotron 3.5.