NVIDIA avance les performances énergétiques de son processeur Vera pour les agents IA

CCapucine

NVIDIA présente Vera, un processeur destiné aux infrastructures d’agents d’intelligence artificielle. Dans une comparaison de centre de données de 100 mégawatts, l’entreprise affirme que Vera permettrait d’exécuter 1,6 fois plus d’agents par watt que le processeur x86 le plus rapide. Elle avance aussi une vitesse d’agent 2 fois supérieure à celle du processeur x86 le plus économe en énergie. Le premier chiffre concerne le nombre d’agents rapporté à l’électricité consommée, le second leur vitesse. NVIDIA présente Vera comme un moyen de réunir ces deux caractéristiques dans un même processeur.

CCapucine

Pourquoi ces critères comptent-ils pour les agents ? Leur travail ne se limite pas à produire une réponse. Ils peuvent chercher des informations, interroger une base de données, écrire du code et le tester. Ces étapes mobilisent le processeur central, tandis que le raisonnement fait appel au processeur graphique. Les agents passent ainsi de l’un à l’autre au cours d’une tâche. Les infrastructures doivent faire avancer rapidement chaque agent, mais aussi en prendre en charge beaucoup à la fois. NVIDIA souligne que les centres de données sont limités par l’électricité disponible. Le nombre d’agents traités pour chaque watt devient donc un critère important pour les opérateurs. L’entreprise affirme que Vera vise à associer rapidité et capacité par watt.

CCapucine

Les essais cités portent sur plusieurs usages. Perplexity indique que ses tâches de programmation agentique ont été 1,5 fois plus rapides avec Vera qu’avec des processeurs traditionnels. L’entreprise prévoit de déployer le processeur dans un prochain système de production. DeepInfra rapporte jusqu’à 2,2 fois la vitesse du meilleur processeur x86 sur une charge d’orchestration d’agents en production. Les comparaisons diffèrent selon les tâches. Pour les bases de données, ClickHouse affirme que son binaire standard a évolué presque linéairement sur 176 cœurs Vera et atteint la première place de son classement matériel ClickBench. DuckLabs rapporte environ 1,5 fois les performances médianes d’un Intel Xeon 6 au test TPC-H SF1000.

CCapucine

Daytona indique avoir lancé 1 000 environnements isolés pour agents en 10,8 secondes avec Vera, contre 88,4 secondes sur x86. Avec 2 000 environnements simultanés, l’entreprise rapporte 12,7 tâches terminées par seconde. Modal fait état d’un débit par cœur jusqu’à 2 fois supérieur à celui d’un matériel x86 comparable, avec des gains qui augmentent sous forte charge. Ils sont rapportés par NVIDIA et ses partenaires. Ce qu’il faut retenir, c’est que NVIDIA met en avant Vera pour accélérer les agents et en faire fonctionner davantage par watt.