Le chiffre

L’inférence prend le dessus

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Léna

Deux tiers des charges de travail exécutées dans les infrastructures d’intelligence artificielle relèvent de l’inférence, selon Cameron McCaskill, responsable commercial de Positron AI, cité par SiliconANGLE. L’entraînement représente désormais la part restante, alors que la proportion était inversée en 2023. Ce changement pèse sur les choix de matériel. Positron conçoit des serveurs d’inférence utilisant de la mémoire standard plutôt que de la mémoire à haute bande passante, plus rare et coûteuse. Ce choix permet d’utiliser une mémoire moins rare et moins coûteuse.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.