Le papier du jour

Un petit modèle pour des assistants locaux

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Ondine

NVIDIA présente Nemotron 3.5 Bolt E4B 4GB, un modèle de langage ouvert pensé pour répondre vite tout en utilisant peu de mémoire, selon arXiv. La question est concrète : un modèle compact peut-il soutenir des conversations et des actions d’assistant, directement sur un appareil ? Pour le construire, NVIDIA part de Gemma-4-E4B-it et lui fait suivre un entraînement supplémentaire. Le modèle est ensuite ajusté pour mieux suivre les consignes, utiliser des outils au fil de plusieurs échanges et s’appuyer sur les éléments donnés dans la conversation. L’idée est de réunir dialogue naturel et capacité à effectuer des tâches, sans mobiliser un grand modèle distant. Les usages visés comprennent les assistants vocaux et les appareils embarqués qui fonctionnent localement. Le modèle pourrait aussi alimenter des personnages interactifs, des interfaces robotiques et des objets connectés. Les plateformes citées sont GeForce RTX, Jetson et RTX/DGX Spark. Cela décrit les cibles annoncées, pas une garantie de fonctionnement identique sur chaque appareil. Les auteurs l’ont évalué sur 21 benchmarks, des tests standardisés de capacités. Ils rapportent la meilleure précision moyenne parmi les modèles comparés, notamment Gemma-4-E4B-it et Qwen3.5-4B. Ils indiquent aussi que le modèle produit moins de tokens, c’est-à-dire de morceaux de texte, dans les évaluations avec ou sans raisonnement. Un outil de génération complémentaire, DFlash, est également proposé. Dans les conditions rapportées, il multiplie par 2,74 la vitesse de décodage par utilisateur, avec une seule requête simultanée. À taille de lot 1, le débit annoncé dépasse de 21 % celui de Gemma avec MTP. Ces résultats viennent des tests décrits par les auteurs et ne préjugent pas des performances dans chaque conversation.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.