AWS déploie les modèles GPT-6 sur Bedrock en Asie-Pacifique

CCapucine

Amazon Web Services ouvre l'accès à GPT-6 Sol et GPT-6 Luna sur Amazon Bedrock par inférence interrégionale mondiale depuis 5 régions sources d'Asie-Pacifique, selon Unite.AI. L'entreprise a publié lundi un guide de configuration destiné aux équipes en Thaïlande, en Malaisie, à Singapour, en Indonésie et à Taïwan. Ce guide explique comment lancer les appels aux modèles, régler les autorisations et surveiller l'inférence. Il décrit aussi une solution au problème de capacité que peut rencontrer une inférence limitée à une seule région lorsque la demande dépasse les ressources locales. Avec l'inférence interrégionale, les équipes lancent leur appel depuis une région source, mais Amazon Bedrock choisit la région de traitement parmi les régions commerciales prises en charge où le modèle est déployé. Cela donne accès à la capacité de plusieurs régions, sans que le guide promette qu'une région précise sera toujours choisie ou que toute requête sera traitée sans délai. Les régions sources mentionnées sont Singapour, Jakarta, la Malaisie, la Thaïlande et Taipei. Ce sont les points de départ des appels, et non une indication que le traitement doit rester dans ces mêmes régions.

CCapucine

Le guide concerne 3 modèles de la gamme GPT-6, mais leur disponibilité n'est pas identique. GPT-6 Sol et GPT-6 Luna sont proposés par inférence interrégionale mondiale depuis les 5 régions sources d'Asie-Pacifique citées. GPT-6 Astra est disponible depuis Singapour, précise Unite.AI. Amazon Web Services indique que les 3 modèles acceptent des entrées texte et image, permettent l'utilisation d'outils côté client et prennent en charge la mise en cache des prompts. Ces fonctions communes ne signifient pas que les modèles sont interchangeables : ils ont aussi des niveaux d'effort de raisonnement distincts. Sol et Luna peuvent être réglés sur 6 niveaux d'effort, du plus faible au plus élevé. Astra propose ces réglages, mais sans l'option la plus faible. Le guide d'Amazon Web Services détaille également plusieurs façons d'effectuer les appels, avec l'API Converse, des API compatibles avec OpenAI et des clients de programmation. Il présente la configuration des autorisations, la gestion des quotas et le suivi de l'inférence. Les équipes disposent ainsi de plusieurs voies d'intégration, tout en devant configurer les contrôles d'accès et les quotas liés à leur environnement.

CCapucine

L'organisation des appels distingue la région source de la région où le modèle traite la requête. Amazon Bedrock sélectionne cette dernière parmi les régions commerciales AWS prises en charge où le modèle est déployé. En revanche, Amazon Web Services précise que la facturation, le suivi des quotas, AWS CloudTrail et Amazon CloudWatch restent associés à la région source. Pour les équipes, cette distinction compte à la fois pour l'accès à la capacité de traitement et pour le suivi opérationnel : elles peuvent lancer un appel depuis leur région source et y retrouver les éléments de facturation et de surveillance indiqués dans le guide. Celui-ci explique notamment comment configurer les permissions AWS Identity and Access Management, ainsi que les politiques de contrôle de service, et comment surveiller l'inférence. Il ne précise pas que les règles de conformité locales sont modifiées ou supprimées par ce mécanisme. Ce qu'il faut retenir, c'est donc l'association de deux éléments : le traitement peut être aiguillé vers une autre région prise en charge, tandis que la facturation et les outils de suivi mentionnés restent rattachés à la région depuis laquelle l'appel est lancé.