AWS détaille 13 nouveautés SageMaker Inference
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.
Transcription avec les sources de chaque passage
Ondine
Amazon Web Services présente 13 nouveautés d’inférence pour SageMaker AI dans la deuxième partie de son bilan 2026, ce qui porte à 26 le nombre de lancements recensés pour l’année, selon Amazon Web Services. Ces évolutions couvrent plusieurs étapes du déploiement des modèles : le choix des configurations, l’utilisation des processeurs graphiques, le service de modèles trop volumineux pour une seule instance et l’optimisation après lancement. Elles concernent donc à la fois la préparation d’un service et son ajustement une fois en production, avec des outils pour mieux choisir les ressources nécessaires et exploiter les accélérateurs. Les recommandations sont accessibles depuis SageMaker AI Studio, le kit de développement logiciel Python SageMaker et des agents de programmation ; elles permettent d’évaluer les capacités d’une configuration avant son déploiement. Les points de terminaison SageMaker peuvent aussi acheminer des requêtes entre régions et comptes, sans que cela change les autres fonctions de configuration décrites. Pour HyperPod Inference, AWS mentionne de nouvelles stratégies de routage, une prise en charge élargie des frameworks de service de modèles et un réseau multirégional étendu. L’Inference Gateway assure le routage, et NVIDIA Dynamo est proposé comme framework géré.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.