Brève

L’inférence redessine l’infrastructure de l’IA

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Marc

Positron AI observe que l’inférence représente désormais environ deux tiers des charges de travail exécutées dans les infrastructures d’intelligence artificielle, contre un tiers pour l’entraînement, selon Cameron McCaskill, responsable commercial de l’entreprise, cité par SiliconANGLE. En 2023, les proportions étaient presque inversées : l’inférence comptait pour environ 15 % de ces charges, et l’entraînement pour 85 %. Cette progression s’accompagne de choix matériels adaptés aux tâches d’inférence, pour lesquelles Positron conçoit des serveurs utilisant de la mémoire standard plutôt que de la mémoire à haute bande passante, plus rare et coûteuse. Son serveur Atlas consomme environ 4 500 watts, et Oracle doit mettre en service environ 340 serveurs Atlas dans son nuage au cours du trimestre évoqué. Positron prévoit de finaliser au début de 2027 la conception de sa propre puce pour son serveur Titan ; un rack de ces serveurs devrait rester sous les 40 kilowatts. Les centres de données modulaires, dont les capacités citées vont de 0,5 à 2,5 mégawatts, offrent une autre possibilité de déploiement rapide, sans que leur capacité précise détermine à elle seule le délai de mise en service. Certains acteurs visent 90 à 120 jours entre la préparation d’un site et de son alimentation électrique, puis la production de jetons monétisables ; Positron avait levé 875 millions de dollars en septembre, pour une valorisation annoncée de 5 milliards de dollars.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.