Kolibri, le modèle ouvert d’Aleph Alpha

NNoor

Alors, d’après Testing Catalog, Aleph Alpha annonce la sortie de Kolibri et propose ses poids sur Hugging Face sous licence Apache 2.0. Le modèle traite l’anglais et l’allemand, et l’entreprise le destine notamment aux administrations et aux secteurs réglementés. Des poids ouverts permettent à des organisations de récupérer le modèle plutôt que d’y accéder uniquement par un service distant. La licence Apache 2.0 définit les conditions applicables à cette mise à disposition. Aleph Alpha affirme aussi que Kolibri peut être déployé sur site, dans l’environnement informatique de l’organisation, sans transmettre les données internes à un service d’inférence tiers. C’est un élément central de l’annonce pour des structures qui souhaitent garder la maîtrise de l’endroit où leurs données sont traitées. Cela ne signifie pas qu’une installation soit immédiate ou identique partout : les modalités concrètes dépendront de l’environnement dans lequel le modèle sera déployé. L’annonce associe donc ouverture des poids, usage bilingue et possibilité de déploiement local, sans que ces caractéristiques suffisent à elles seules à établir les résultats d’un usage particulier.

NNoor

Selon AlphaSignal, Kolibri-1 compte 78,1 milliards de paramètres, dont 3,46 milliards sont activés par token. Cette architecture dite à experts ne mobilise donc qu’une partie des paramètres pour chaque token, même si le modèle doit conserver l’accès à l’ensemble de ses poids. La documentation décrit des couches d’attention qui alternent fenêtres glissantes et attention globale : la plupart traitent une zone locale, tandis que certaines peuvent relier des informations plus éloignées. Le modèle dispose d’un contexte natif de 262 144 tokens, après des étapes d’entraînement à 16 384 puis 65 536 tokens. Aleph Alpha rapporte des tests de qualité et de service jusqu’à 1 048 576 tokens, sans recourir à YaRN ni à une mise à l’échelle de RoPE. Cette différence entre contexte natif et longueur testée compte en pratique : un très long document peut être fourni, mais la taille réellement accessible à une requête dépend de la configuration de vLLM, de la taille des lots et de la mémoire disponible pour le cache KV. Le modèle propose aussi quatre niveaux de raisonnement et l’appel d’outils. On peut ainsi lui demander d’ajuster son effort de raisonnement ou de solliciter un outil, selon la tâche, mais ces fonctions ne garantissent pas à elles seules une réponse exacte. La documentation mentionne également le tokenizer UniBPE et Merlin-Arthur, un protocole d’apprentissage par renforcement destiné au contrôle des hallucinations.

NNoor

La cible annoncée comprend notamment les administrations et les secteurs réglementés. Le déploiement sur site peut intéresser des organisations qui souhaitent exécuter le modèle dans leur propre environnement informatique, plutôt que d’envoyer leurs demandes à un service d’inférence tiers. Aleph Alpha affirme que cette option évite de transmettre les données internes à un tel service. L’entreprise indique que Kolibri-1 a été entraîné à partir de zéro sur 20 000 milliards de tokens, avec 768 GPU NVIDIA B200 en Allemagne et en Finlande. Les poids FP8 occupent environ 78 Go, et l’article indique que le modèle peut fonctionner sur un seul GPU H200, B200 ou B300. Cela ne signifie pas que toutes les requêtes longues fonctionneront dans les mêmes conditions : les limites dépendent aussi de la configuration de vLLM, de la taille des lots et de la mémoire disponible pour le cache KV. La quantité de mémoire nécessaire aux poids donne une indication du matériel à prévoir, mais elle ne suffit pas à établir le coût complet d’exploitation, qui dépend aussi de l’usage et de l’installation retenus. Aleph Alpha affirme avoir développé le modèle en Allemagne et contrôlé plusieurs étapes, de la curation des données au déploiement. Pour une organisation, ces éléments décrivent l’approche annoncée, mais ne déterminent pas à eux seuls la conformité de chaque usage ni les contraintes concrètes d’installation.

NNoor

Dans les évaluations publiées par Aleph Alpha, Kolibri obtient un score global de 75,5 en anglais et de 70,8 en allemand. AlphaSignal rapporte aussi un score de 84,3 sur GPQA Diamond en anglais, présenté comme le meilleur parmi les modèles de type MoE comparés. Ces résultats proviennent d’évaluations publiées par le fournisseur ou rapportées par l’article ; ils ne constituent donc pas une comparaison indépendante de l’ensemble des modèles disponibles. Aleph Alpha annonce également 96,9 sur AIME 2025 et 85,9 sur LiveCodeBench v6. Ces scores concernent des tests différents, avec des tâches et des méthodes de mesure propres à chacun : ils ne se traduisent pas directement en une mesure unique de la qualité du modèle. Les résultats donnent des repères sur les évaluations choisies, mais ne résument pas l’expérience d’une organisation avec ses propres documents et ses propres demandes. Une administration pourrait, par exemple, examiner si le modèle traite correctement les textes et les tâches qu’elle rencontre réellement, plutôt que de s’appuyer uniquement sur des résultats de benchmark. Il faudrait aussi vérifier les contraintes de déploiement et les erreurs possibles dans les réponses. Pour évaluer l’intérêt du modèle, une administration ou une entreprise devrait donc confronter les capacités annoncées à ses cas d’usage, particulièrement lorsqu’une réponse intervient dans un processus réglementé ou une décision conséquente. Les scores publiés ne garantissent pas les résultats pour chaque utilisateur.

NNoor

Kolibri est un modèle bilingue anglais-allemand à poids ouverts, qu’Aleph Alpha destine notamment aux administrations et aux secteurs réglementés. Ses poids sont proposés sur Hugging Face sous licence Apache 2.0, et le modèle peut être servi avec un contexte allant jusqu’à 1 048 576 tokens. Il propose aussi quatre niveaux de raisonnement et l’appel d’outils. Aleph Alpha affirme qu’il peut être déployé sur site, sans transmettre les données internes à un service d’inférence tiers. L’entreprise met en avant un développement en Allemagne, un entraînement en Allemagne et en Finlande, ainsi que le contrôle de plusieurs étapes, de la curation des données au déploiement. Ces éléments décrivent l’approche présentée par le fournisseur, mais ne suffisent pas à garantir la conformité d’un usage donné. De même, les scores annoncés en anglais, en allemand, en mathématiques et en programmation viennent des évaluations d’Aleph Alpha. Ils donnent des indications sur les résultats obtenus dans ces tests, mais ne garantissent pas les performances dans chaque contexte. Le point essentiel, c’est donc la possibilité d’accéder aux poids et de choisir un déploiement sur site, avec des capacités annoncées qu’il faut ensuite éprouver selon les besoins, les contraintes techniques et les usages de chaque organisation.