Dossier

Inkling 2 Mini, un modèle ouvert pensé pour l’ordinateur portable

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse · sujet sensible, traité avec prudence.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Token FM

Token FM, la radio de l'IA, faite par l'IA. Place au dossier.

Victor

Bonjour Sacha, Thinking Machines Lab a lancé Inkling 2 Mini, un modèle à poids ouverts conçu pour fonctionner sur un ordinateur portable. Qu’est-ce que cette sortie apporte de nouveau ?

Sacha

D’après Testing Catalog, Thinking Machines Lab a publié les poids d’Inkling 2 Mini et ceux d’une variante de recherche associée, TML-d24-varloop-research, sur Hugging Face. Le modèle est également proposé sur Tinker pour l’inférence, c’est-à-dire pour produire des réponses, et pour le fine-tuning, qui consiste à l’adapter par un nouvel entraînement. Tinker Playground propose une interface de discussion. Ce qui distingue surtout cette sortie, c’est l’association entre des poids disponibles à l’extérieur du laboratoire et une architecture qui répète une partie de ses couches pour effectuer davantage de calcul. Le modèle est annoncé comme assez compact pour fonctionner sur un ordinateur portable, et des outils comme SGLang, vLLM et Ollama prennent en charge son exécution locale. Cela peut intéresser les personnes qui veulent tester un modèle sur leur propre matériel, mais aussi celles qui souhaitent examiner une architecture à boucles. L’accès aux poids ne garantit pas à lui seul que chaque machine pourra l’exécuter facilement : les ressources disponibles et les outils employés comptent aussi. L’annonce met donc à disposition plusieurs voies d’essai, sans que cela signifie que les performances seront identiques dans tous les environnements.

Victor

Comment fonctionne cette architecture, et qu’est-ce que les boucles changent concrètement ?

Sacha

Inkling 2 Mini compte 26,4 milliards de paramètres au total, dont 3,4 milliards sont actifs pour chaque jeton traité. C’est un modèle de type Mixture of Experts, ou mélange d’experts : il ne mobilise pas l’ensemble de ses paramètres à chaque étape. Son architecture comporte 24 couches, et les 12 couches centrales sont parcourues 3 fois pour chaque jeton, tandis que les 6 premières et les 6 dernières ne passent qu’une fois. On peut se représenter cela comme un atelier où certaines étapes de fabrication sont répétées avant que le produit soit terminé ; ce n’est pas une explication que le modèle doit nécessairement écrire dans sa réponse. Thinking Machines présente cette répétition comme un moyen d’augmenter le calcul consacré au traitement, avec une empreinte mémoire annoncée d’environ 20 gigaoctets. Il faut distinguer ces deux mesures : les paramètres actifs décrivent ce qui est mobilisé pour un jeton, tandis que l’empreinte mémoire concerne l’espace nécessaire pour charger le modèle. Les faits disponibles ne permettent pas de conclure que n’importe quel ordinateur portable répondra aux besoins. Le laboratoire indique néanmoins que le modèle peut être exécuté localement et hors ligne avec des outils compatibles. C’est donc une architecture qui cherche à consacrer plusieurs passes à certaines couches sans augmenter de la même façon le nombre total de paramètres.

Victor

À qui s’adresse-t-il, et quelles sont les différentes façons de l’utiliser ?

Sacha

Pour les développeurs et les équipes de recherche, les poids d’Inkling 2 Mini et ceux de sa variante de recherche sont disponibles sur Hugging Face. Cette publication permet d’obtenir les fichiers du modèle, mais l’exécution dépend ensuite des ressources matérielles et des outils choisis. SGLang, vLLM et Ollama figurent parmi les solutions qui prennent en charge l’inférence locale ; le laboratoire indique que le modèle peut fonctionner hors ligne sur un ordinateur portable. Son empreinte mémoire annoncée, autour de 20 gigaoctets, donne un ordre de grandeur utile, sans garantir la compatibilité de chaque ordinateur. Pour les personnes qui ne veulent pas installer le modèle localement, Tinker propose l’inférence et le fine-tuning. Tinker Playground ajoute une interface de discussion, ce qui rend possible une première exploration sans passer directement par une configuration locale. Le fine-tuning, lui, sert à adapter le modèle, mais les informations disponibles ne précisent pas les résultats qu’on pourrait obtenir pour chaque besoin particulier. Cette diversité d’accès peut servir à comparer des usages : essayer une conversation, lancer des tâches ou étudier la variante de recherche. Elle ne signifie pas que les utilisateurs auront tous les mêmes performances, ni que les contraintes de matériel disparaissent. Le modèle est ainsi proposé à la fois par téléchargement et par des services d’expérimentation.

Victor

Quels résultats le laboratoire met-il en avant, et que mesurent ces évaluations ?

Sacha

Thinking Machines annonce 48,2 % à DeepSWE v1.1 et 46,5 % à Vals Index v2.2 pour Inkling 2 Mini. Le laboratoire affirme également que le modèle se classe en tête de plusieurs évaluations de recherche et d’utilisation d’outils parmi les modèles de sa catégorie de taille. Ces résultats portent sur des tests particuliers : ils ne résument pas toutes les compétences du modèle et ne garantissent pas la même qualité dans chaque situation réelle. La programmation dite agentique consiste ici à évaluer des tâches dans lesquelles un système peut agir en plusieurs étapes, plutôt qu’à produire uniquement une réponse isolée. La recherche et l’usage d’outils évaluent aussi la capacité à s’appuyer sur des moyens externes pour accomplir une tâche. On peut imaginer un assistant qui doit retrouver une information puis mobiliser un outil approprié ; c’est différent d’une question à laquelle il répond seulement avec ce qu’il a déjà appris. Le laboratoire présente ces capacités comme des points forts pour un modèle de cette taille. Il faut toutefois garder en tête que les résultats cités sont ceux de Thinking Machines et correspondent à des évaluations précises. Ils donnent des repères utiles pour comparer certaines tâches, mais ne suffisent pas à établir que le modèle est supérieur dans tous les usages. Ils ne renseignent pas non plus, à eux seuls, sur la qualité d’une longue conversation ou le respect de consignes compliquées.

Victor

Quelles limites le laboratoire reconnaît-il, et que montre l’étude sur les boucles ?

Sacha

Thinking Machines indique qu’Inkling 2 Mini reste derrière Qwen3.8-27B dans les conversations à plusieurs tours et face aux consignes qui comportent de nombreuses contraintes. Cela rappelle qu’un bon résultat sur une tâche de recherche ou d’utilisation d’outils ne prédit pas automatiquement la qualité d’un échange prolongé. Une conversation peut demander au modèle de tenir compte de plusieurs informations successives, tandis qu’une consigne très contrainte lui demande de respecter plusieurs règles en même temps. Le laboratoire ne présente donc pas Inkling 2 Mini comme le meilleur choix pour toutes les situations. Une autre question concerne les boucles : peuvent-elles prolonger le calcul sans rendre visible une chaîne de pensée détaillée ? Dans une étude portant sur la variante à boucles variables, Thinking Machines indique que l’horizon temporel sans chaîne de pensée explicite passe de 16 secondes avec une seule passe à 37 secondes avec 3 passes. Il s’agit d’une mesure de cette étude, et non d’une durée qui caractériserait nécessairement chaque réponse du modèle. Le laboratoire rapporte aussi que les scores aux tests de sabotage agentique n’augmentent pas avec le nombre de boucles. Ce résultat concerne ces tests précis et ne permet pas, à lui seul, de trancher toutes les questions de sécurité. Il montre plutôt que l’étude examine à la fois la durée du calcul et un indicateur de risque, sans que l’un ou l’autre résume à lui seul le comportement général du modèle.

Victor

Que faut-il retenir de cette sortie, notamment pour les chercheurs qui veulent étudier le modèle ?

Sacha

Thinking Machines travaille avec le National Deep Inference Fabric pour rendre le modèle accessible à des chercheurs en interprétabilité, qui étudient le fonctionnement interne des systèmes. Le laboratoire indique que Goodfire a bénéficié d’un accès anticipé pour examiner ce fonctionnement. La mise à disposition des poids fournit un objet concret à étudier, en complément d’une interface de discussion, même si les méthodes et les résultats de ces travaux ne sont pas détaillés ici. Pour les développeurs, l’exécution locale avec des outils compatibles et l’accès par Tinker offrent d’autres voies d’expérimentation. Le point important, c’est que l’architecture à boucles est proposée avec un modèle dont les poids sont accessibles, et qu’une variante de recherche est également publiée. Les chiffres annoncés suggèrent un compromis particulier : 26,4 milliards de paramètres au total, 3,4 milliards actifs pour chaque jeton et une empreinte mémoire d’environ 20 gigaoctets. Le laboratoire revendique des résultats élevés sur certaines évaluations de programmation agentique, de recherche et d’utilisation d’outils, tout en reconnaissant des résultats plus faibles en conversation à plusieurs tours et avec des consignes complexes. Pour les usages locaux, il faut aussi tenir compte de la machine et des outils nécessaires. En fait, cette sortie rend l’architecture accessible à des essais et à des recherches, mais ne supprime ni les limites de capacité ni les questions sur la façon d’évaluer le raisonnement interne.

Victor

Merci Sacha pour ces explications.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.