Brève

AWS détaille l’accélération des agents sur Bedrock

IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse.

Intégrer ce passage sur votre site

Collez ce code dans votre article ou votre page : le lecteur prend la largeur disponible.

Thème

Transcription avec les sources de chaque passage

Ondine

Amazon Web Services détaille vendredi des méthodes pour accélérer la première réponse des agents hébergés sur Amazon Bedrock AgentCore Runtime. En version 2, le service prépare l’environnement lors de la création ou de la mise à jour du runtime, en crée un instantané, puis restaure cet instantané pour chaque nouvelle session, au lieu de refaire toute l’initialisation. Cette préparation prend quelques minutes : l’instantané est créé après la réception d’un signal de santé, GET /ping, attendu dans les 120 secondes, puis le cache de fichiers du système est vidé avant la sauvegarde de la mémoire et du disque. Pour réduire le travail au premier échange, AWS recommande de déplacer l’initialisation avant app.run(), le lancement de l’application, et d’utiliser des hooks de construction pour préparer certains fichiers ou outils. AWS conseille aussi de démarrer une session en arrière-plan dès que l’utilisateur manifeste son intérêt, afin de préchauffer l’environnement avant qu’il engage la conversation avec l’agent. Ces méthodes portent sur le démarrage et le délai avant la première réponse : le runtime réutilise un environnement préparé, tandis que les hooks et le préchauffage déplacent une partie du travail hors du premier échange avec l’utilisateur.

Une erreur ?

Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.

Signaler une erreur

Un mot pour la rédaction ?

Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.