AWS présente un framework d’agents entre appareil et cloud

MMarc

AWS décrit l’Adaptive Agentic Intelligence Framework, ou AAIF, construit avec Strands Agents pour répartir les demandes entre des modèles locaux et des modèles cloud, selon Amazon Web Services. Ce framework d’agents est présenté à travers un exemple de surveillance d’objets connectés, où les requêtes ne suivent pas toutes le même chemin de traitement. Un petit modèle de langage local, llama3.2:1b, orchestre les requêtes et contribue à diriger les tâches vers le traitement adapté. Dans cet exemple, des modèles exécutés localement avec Ollama traitent notamment les données de télémétrie des objets connectés et leurs images. Les tâches courantes peuvent ainsi être prises en charge sur l’appareil, tandis que les demandes qui nécessitent davantage de contexte ou plusieurs étapes de raisonnement sont envoyées vers le cloud. Le framework réserve notamment Amazon Bedrock aux analyses complexes, comme l’étude de tendances et la préparation de recommandations stratégiques. L’approche associe donc un traitement local pour certaines opérations et des modèles cloud pour les analyses plus exigeantes, sans confier toutes les requêtes à un seul mode de traitement.