gpu-unlock accélère certaines cartes Nvidia sous Linux
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Léna
Le module open source gpu-unlock vise à augmenter le débit de certaines cartes GeForce Ampere de Nvidia sous Linux, avec des gains importants sur des opérations de calcul matriciel, selon AlphaSignal. Il intervient avant le chargement du pilote Nvidia et cherche à lever une limitation du débit des opérations Tensor Core en FP16 et BF16. Le module ne modifie pas le pilote et ne flashe pas le VBIOS, le micrologiciel intégré à la carte graphique. Lors de tests communautaires, le calcul matriciel BF16 d’une GeForce RTX 3090 est passé de 77,5 à 129,6 téraflops, un résultat proche de celui d’une RTX A6000. Sur une RTX 3090 Ti, des essais avec ComfyUI, un outil de génération d’images, font état d’un gain de 47 à 59 %. En revanche, le décodage de jetons par les grands modèles de langage progresse peu, ce qui montre que les résultats varient selon l’usage. L’outil est réservé à Linux, exige un démarrage à froid, une activation dans la ligne de commande du noyau et une puce GA102 ou GA104. Les performances annoncées, qui peuvent approcher le double dans certaines opérations ciblées, reposent sur des tests communautaires précoces ; la compatibilité matérielle et la stabilité à long terme restent peu éprouvées.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.