Mercury 3, la promesse de la génération parallèle

NNoor

Alors, le point central, c’est la façon dont le modèle produit du texte. Inception a lancé Mercury 3, un modèle de langage à diffusion qui met à jour plusieurs positions de tokens en parallèle, par étapes de débruitage, d’après AlphaSignal. Inception annonce un débit de 1 068 tokens par seconde sur des processeurs graphiques de NVIDIA, soit quatre à huit fois celui des modèles rapides auxquels l’entreprise le compare. C’est une promesse de vitesse particulièrement forte pour un modèle destiné à produire du texte, mais ce chiffre décrit un débit annoncé, pas nécessairement le délai que chaque utilisateur ressentira pour obtenir une réponse complète. L’annonce est donc intéressante à la fois pour ses performances affichées et pour la méthode de génération qui les rend possibles.

NNoor

Dans un modèle classique de génération autorégressive, chaque nouveau token dépend de ceux qui le précèdent. Le système avance donc dans une séquence, ce qui limite le calcul simultané et peut allonger la production d’une réponse. Mercury 3 procède autrement : il part d’une représentation bruitée ou masquée de la séquence à produire, puis affine plusieurs positions au fil de passages successifs. Il peut ainsi calculer des éléments en parallèle, plutôt que d’attendre que chaque token précédent soit définitivement établi. Cela ne signifie pas que toute la réponse apparaît d’un seul coup : il y a encore plusieurs étapes de raffinement. Et le temps réellement observé dépend aussi de la longueur de la réponse, du nombre d’étapes, du matériel utilisé, du traitement de la demande et de la manière dont le texte est transmis à l’application.

NNoor

Inception porte le contexte de Mercury 3 à 1 million de tokens, contre 260 000 pour Mercury 2.5, d’après SiliconANGLE. Cela signifie que le modèle peut recevoir un volume plus important de texte dans une même demande. Pour une application, cela peut faciliter le traitement de documents longs ou d’un historique de conversation étendu, sans devoir fractionner systématiquement le contenu. Mais une grande fenêtre de contexte ne garantit pas que chaque détail sera bien compris ou retenu, et elle ne suffit pas à mesurer la qualité des réponses. La vitesse peut aussi compter dans les services qui enchaînent les appels au modèle, notamment les systèmes d’agents qui alternent observation, décision et utilisation d’outils. Dans ces boucles, chaque étape peut nécessiter une nouvelle réponse ; réduire l’attente à chaque appel peut donc rendre l’interaction plus fluide. Des clients précoces rapportent des réponses en 0,9 seconde dans les tests de lunettes connectées d’Octen AI, et en environ une seconde pour le tutorat de RevisionDojo, mais ces mesures ne sont pas vérifiées indépendamment. Elles illustrent des usages où le délai est visible, sans permettre de conclure que les mêmes résultats se retrouveront dans d’autres produits ou sur d’autres tâches. Mercury 3 est accessible par l’interface de programmation d’Inception et sur OpenRouter, Baseten et Vercel, avec une compatibilité OpenAI annoncée.

NNoor

Le tableau publié par Inception place Mercury 3 en tête de 8 tests sur 12 face à GPT-6 Luna et Claude Haiku 5.5, d’après MarkTechPost. Sur SWE-Bench Atlas, les scores communiqués sont de 51,08 pour Mercury 3, contre 33,33 pour GPT-6 Luna et 32,26 pour Claude Haiku 5.5. Mais Claude Haiku 5.5 le devance sur DeepSWE v1 et MRCR v2, tandis que GPT-6 Luna fait mieux sur AA-Omniscience-Public et AA-LCR v1.1. Le tableau présente donc un avantage sur la majorité des tests, mais aussi des domaines où les concurrents obtiennent de meilleurs résultats. Ces écarts comptent parce qu’un score agrégé ou un nombre de tests gagnés ne dit pas à lui seul comment le modèle se comportera sur une tâche précise. Les résultats proviennent du tableau d’Inception et n’ont pas été vérifiés indépendamment. Il faut donc les considérer comme des performances communiquées par l’entreprise, et non comme une comparaison déjà reproduite par des évaluateurs extérieurs. SiliconANGLE indique un tarif catalogue de 0,20 dollar par million de tokens en entrée et 0,70 dollar en sortie, réduit de moitié pendant la promotion de lancement. L’entrée mise en cache coûte 90 % de moins. Pour les équipes qui évaluent le modèle, le prix affiché doit être rapproché du volume réel de requêtes et de la qualité obtenue sur leurs propres tâches.

NNoor

La première limite, c’est l’écart possible entre un chiffre de débit et l’expérience de bout en bout. Le nombre de tokens générés par seconde ne décrit pas à lui seul le temps nécessaire pour traiter une demande, ni le délai avant que l’utilisateur voie une réponse complète. Le résultat peut aussi dépendre de la longueur du texte produit et des conditions d’utilisation. Le tableau d’Inception montre des résultats contrastés selon les tests, et ses scores, y compris l’avantage affiché sur 8 benchmarks sur 12, restent à reproduire indépendamment. Les mesures de latence rapportées par Octen AI et RevisionDojo viennent de clients précoces et ne sont pas accompagnées d’une vérification indépendante. Elles donnent des exemples d’usages où la rapidité compte, mais ne remplacent pas des essais menés dans des conditions comparables par des évaluateurs indépendants. Le tarif catalogue est de 0,20 dollar par million de tokens en entrée et 0,70 dollar en sortie, avec une promotion de lancement à moitié prix et une entrée mise en cache 90 % moins chère, d’après SiliconANGLE. Le coût réel dépendra donc aussi du nombre de requêtes, de leur taille et de la part d’entrées mises en cache. Pour un usage important, il faudrait mesurer soi-même la qualité, la latence et le coût sur les tâches réellement visées, plutôt que de déduire l’intérêt du modèle d’un seul chiffre annoncé.

NNoor

Bon, Mercury 3 met en avant une approche différente de la génération du texte et des chiffres ambitieux : 1 068 tokens par seconde annoncés, avec un contexte d’un million de tokens. Si ces performances se confirment dans des tests indépendants, la génération par diffusion pourrait réduire l’attente dans certains services, en particulier ceux qui multiplient les échanges avec un modèle. Mais les comparaisons de qualité et les résultats d’agents restent des affirmations d’Inception, et les tarifs rapportés ne concordent pas. Il faut donc distinguer trois choses : la nouveauté technique, qui est bien le calcul parallèle par étapes ; les chiffres annoncés, qui demandent vérification ; et l’intérêt concret, qui dépendra des usages et des mesures en conditions réelles. Pour l’instant, l’annonce donne une piste sérieuse à examiner, pas encore une preuve que Mercury 3 est le meilleur choix pour chaque application.