Ollama améliore ses intégrations

MMarc

Ollama publie la version 0.40.14, une mise à jour qui corrige plusieurs fonctions liées aux modèles et aux connexions. Le projet détaille ces changements sur GitHub. Pour Claude Code, Ollama applique désormais la limite de jetons de sortie propre au modèle. Les modèles dans le cloud évitent ainsi la limite par défaut de 128 000 jetons. La mise à jour corrige le décodage des réponses de recherche web dans l’interface de discussion, y compris pour les réponses compressées. Les points de terminaison compatibles avec l’interface de programmation d’OpenAI respectent aussi les réglages d’échantillonnage par défaut du modèle. C’est le cas lorsque le client ne transmet ni température ni valeur de top-p. La route de réponses conserve le contenu lisible des entrées, notamment les refus précédents de l’assistant. Pour les développeurs qui relient ces interfaces à leurs applications, ces corrections touchent au décodage des réponses, aux réglages et au contenu transmis. L’application Ollama peut désormais réessayer après certaines déconnexions de ChatGPT. De son côté, la commande de lancement de Codex vérifie le routage vers ChatGPT avant sa configuration et signale clairement si ce routage est indisponible. Enfin, la mise à jour accélère l’échantillonnage top-k sur MLX pour les grands vocabulaires. Ce gain concerne donc les usages de MLX avec de grands vocabulaires.