Prometheus, le supercalculateur de Meta en route vers un million de GPU

TThéa

La nouveauté, c’est que Meta présente un premier bilan concret de Prometheus. Dans un compte rendu technique de son équipe d’ingénierie, publié lundi et signalé par AlphaSignal, l’entreprise explique que la première phase achevée a servi à entraîner la famille de modèles Muse, dont Muse Wonder. Prometheus n’est donc pas seulement un projet de centre de calcul annoncé pour plus tard : une première partie est déjà utilisée pour entraîner des modèles. L’infrastructure se trouve à New Albany, dans l’Ohio. Meta indique que le système complet devrait réunir environ un million de GPU, répartis sur plusieurs bâtiments. Ce chiffre décrit un objectif de montée en puissance, pas une capacité déjà disponible.

TThéa

Alors, l’idée est de faire fonctionner des installations distinctes comme un seul grand système d’entraînement. Prometheus relie des bâtiments situés à plus de 100 kilomètres, grâce à un réseau de fibre optique et à une infrastructure Ethernet conçue pour transporter de très grandes quantités de données. Ainsi, un même travail de calcul peut mobiliser des accélérateurs installés dans des bâtiments différents. C’est important, parce qu’un modèle ne s’entraîne pas forcément dans une seule salle informatique compacte : les ressources doivent rester coordonnées malgré la distance. Meta distingue plusieurs types de bâtiments, notamment des centres de données classiques, des sites conçus pour l’intelligence artificielle et des structures déployées rapidement. Le compte rendu décrit donc une architecture distribuée, où la capacité vient de l’ensemble des sites reliés, et pas seulement d’un bâtiment isolé.

TThéa

Le réseau joue un rôle essentiel parce qu’il faut acheminer les données entre les machines sans créer un goulot d’étranglement. En termes simples, si les GPU calculent plus vite que le réseau ne leur fournit ou ne leur transmet les données, une partie de leur capacité reste inutilisée. Meta explique que ses choix d’infrastructure réseau évoluent avec la puissance des plateformes installées. L’entreprise évoque notamment une capacité de 800 gigabits par seconde par GPU pour une de ses configurations. Ce débit est une capacité de liaison, pas une mesure de la vitesse d’entraînement d’un modèle. Et relier des sites éloignés ne suffit pas à garantir que tout fonctionne sans accroc : il faut aussi détecter les pannes, limiter leurs effets et permettre aux calculs de reprendre proprement.

TThéa

Bon, sur un entraînement réparti entre des milliers de machines, une défaillance locale peut interrompre un travail beaucoup plus vaste. Les exemples donnés dans le compte rendu incluent la panne d’un serveur, une liaison interne dégradée ou des erreurs de mémoire. Meta décrit plusieurs moyens de réduire les interruptions : des ressources de réserve, des logiciels capables de tenir compte des défaillances, des sauvegardes distribuées et des diagnostics automatisés. Les sauvegardes permettent de conserver des points de reprise, pour ne pas devoir recommencer tout le calcul après un incident. La redondance du réseau et des réglages liés à l’alimentation font aussi partie des mesures évoquées. L’objectif n’est donc pas de prétendre qu’aucune panne ne peut arriver, mais d’éviter qu’un incident isolé immobilise durablement une grande partie de l’infrastructure.

TThéa

Meta affirme que le taux d’interruptions a baissé de 99 % par rapport au niveau observé vers le milieu de 2025. À cette période, l’entreprise comptait près de 1 000 interruptions par jour pour 8 000 GPU. Ce point de comparaison aide à comprendre l’ampleur du problème rencontré quand un système est encore en cours de stabilisation. Le temps moyen entre interruptions aurait ensuite atteint environ 47 000 heures-GPU, puis 54 000 après des mises à jour de micrologiciel. Une heure-GPU correspond ici à une heure de fonctionnement d’un GPU, agrégée dans la mesure rapportée. Ce chiffre ne signifie pas qu’une machine unique tourne sans incident pendant des années : il mesure le temps cumulé associé au parc concerné. Ces résultats sont ceux communiqués par Meta, et ils ne décrivent pas toutes les conditions possibles d’exploitation.

TThéa

Le premier bénéficiaire direct, c’est Meta, qui dispose de davantage de capacité pour entraîner ses propres modèles. La première phase a déjà servi à la famille Muse, dont Muse Wonder, mais le compte rendu ne permet pas de conclure que cette infrastructure est un service ouvert au public. Pour entraîner Muse Wonder, Meta rapporte un taux de calcul utile supérieur à 85 % pendant le pré-entraînement, puis supérieur à 90 % pendant l’apprentissage par renforcement. Le calcul utile, c’est la part du temps total consacrée à faire progresser effectivement l’entraînement, une fois pris en compte les arrêts et les reprises. Ces pourcentages donnent une indication de l’efficacité opérationnelle annoncée par l’entreprise. Ils ne mesurent ni la qualité du modèle, ni son intérêt pour les utilisateurs, ni le coût financier total de son entraînement.

TThéa

Meta décrit aussi plusieurs plateformes matérielles présentes ou prévues dans Prometheus. La plateforme GB300 NVL72, baptisée Clemente, améliorerait les performances de 5 à 10 % par rapport à la génération GB200 NVL72. L’entreprise présente ensuite San Miguel, fondée sur la génération Vera Rubin, comme une évolution attendue plutôt qu’un résultat déjà mesuré dans les mêmes conditions. Meta prévoit pour elle une amélioration de 10 à 20 % des performances par watt par rapport à GB300 NVL72. Cette mesure rapporte la performance à l’énergie consommée : elle renseigne sur l’efficacité énergétique, mais ne donne pas à elle seule la consommation totale du supercalculateur. En pratique, ajouter des GPU ne suffit donc pas ; il faut aussi les alimenter, les relier et les faire fonctionner avec une efficacité suffisante.

TThéa

La première limite, c’est que le million de GPU reste un objectif annoncé par Meta. Le bilan décrit une première phase achevée et une évolution prévue, mais il ne dit pas que l’ensemble du système est déjà construit ou pleinement opérationnel. Ensuite, les chiffres de performances dépendent des configurations et des tâches comparées. Un gain de 5 à 10 % entre deux plateformes ne signifie pas que chaque entraînement sera automatiquement plus rapide dans la même proportion. De même, le taux de calcul utile dépend des interruptions et des conditions du travail mené ; il ne résume pas à lui seul les performances globales. Enfin, les résultats viennent de l’entreprise qui construit et exploite Prometheus. Ils sont utiles pour comprendre ses choix, mais ils restent des résultats présentés par Meta, et non une comparaison indépendante de toutes les infrastructures concurrentes.

TThéa

Il faut aussi distinguer l’efficacité des machines de l’efficacité de l’ensemble du système. Une plateforme peut afficher de meilleures performances par watt, mais le compte rendu ne fournit pas ici un bilan complet de la consommation du site, ni un coût total du projet. Il ne permet pas non plus de mesurer directement les effets de cette capacité sur les produits accessibles au public. Ce qu’on peut retenir, en revanche, c’est le lien entre fiabilité et progression des modèles : quand les interruptions diminuent, une plus grande part du temps de calcul peut être consacrée à l’entraînement. Les taux de calcul utile annoncés pour Muse Wonder illustrent ce point. Mais ils ne prouvent pas, à eux seuls, que le modèle est meilleur ou que son entraînement est moins coûteux. Ce sont des indicateurs techniques, à lire avec leurs limites.

TThéa

Prometheus est déjà utilisé par Meta pour entraîner sa famille de modèles Muse, notamment Muse Wonder, et l’entreprise veut étendre cette infrastructure jusqu’à environ un million de GPU. Son ambition repose autant sur le réseau entre bâtiments que sur la puissance des accélérateurs eux-mêmes. Le bilan met aussi en avant un travail de fiabilisation, avec une baisse des interruptions revendiquée et des taux de calcul utile élevés pour Muse Wonder. Cela donne une image de la manière dont les grands modèles poussent les entreprises à construire des systèmes distribués et à gérer les pannes à grande échelle. Mais il faut garder en tête que la capacité finale est encore un objectif et que les indicateurs présentés sont ceux de Meta. Le prochain enjeu sera de voir comment cette montée en puissance se traduit en résultats concrets, sans confondre nombre de GPU, efficacité technique et qualité des modèles.