Baidu présente ERNIE 5.5 Flash

OOndine

Baidu a annoncé ERNIE 5.5 Flash Preview, un modèle à mélange d’experts de 280 milliards de paramètres, selon AlphaSignal. Pour chaque token traité, 14 milliards de paramètres sont activés sur les 280 milliards que compte le modèle au total. Baidu annonce une génération à plus de 200 tokens par seconde et une fenêtre de contexte pouvant atteindre un million de tokens, pour l’inférence et l’ajustement du modèle. Ce million correspond à la longueur maximale prise en charge, sans garantir que le modèle conserve une précision fiable sur l’ensemble du texte traité. Son pré-entraînement aurait mobilisé 33 500 milliards de tokens, avec l’optimiseur Muon et une précision mixte FP8. Baidu affirme que le modèle devance DeepSeek V4 Flash sur 26 des 30 benchmarks de modèles de base qu’elle cite, mais ces résultats n’ont pas été confirmés par une évaluation indépendante. Les tests indépendants sur la vitesse annoncée restent limités, et les besoins matériels sont importants ; la vitesse comme la capacité maximale de contexte restent donc à évaluer indépendamment. Baidu prévoit de publier les poids de la version post-entraînée d’ici au 25 novembre 2026, tandis que la licence annoncée restreint l’usage commercial dans l’Union européenne, au Royaume-Uni et en Corée du Sud.