Dell et Intel évaluent les coûts de l’IA en entreprise

MMarc

Dell et Intel recommandent d’examiner les modèles à poids ouverts et les capacités déjà disponibles dans les centres de données avant de choisir une infrastructure de production pour l’intelligence artificielle, d’après SiliconANGLE. La pression sur les budgets de jetons est déjà visible chez certains clients : selon Helen O’Sullivan, de Dell, des budgets prévus pour plusieurs mois seraient épuisés en quelques semaines. Ces clients doivent alors revoir où exécuter l’inférence, c’est-à-dire le traitement qui permet à un modèle de produire une réponse à partir d’une demande. La multiplication des usages d’agents d’intelligence artificielle accroît aussi le rôle des processeurs centraux, ou CPU, aux côtés des processeurs graphiques, ou GPU. Les CPU peuvent notamment contribuer à l’orchestration des agents et à l’inférence ; les intervenants estiment donc que ces tâches ne reposent pas uniquement sur les GPU. Dell et Intel invitent à tester des modèles à poids ouverts dans un environnement d’essai, puis à examiner les capacités CPU déjà présentes dans les centres de données avant de retenir une solution de production.