OpenAI ouvre en bêta son API de décisions

NNoor

Alors, d’après Brief IA, OpenAI propose une API conçue pour traiter des questions fermées et renvoyer des réponses normalisées, plutôt que de produire directement un texte libre. La bêta publique repose sur gpt-6-luna et accepte des entrées sous forme de texte et d’images. L’API vise des décisions délimitées, par exemple diriger un message vers une file, attribuer un score ou choisir une action. Elle permet donc de formuler une question et de demander une sortie organisée selon l’un de plusieurs formats prévus. Ce positionnement ne signifie pas qu’elle remplace toutes les autres interfaces de modèles : les tâches qui nécessitent une réponse rédigée ou l’extraction de champs arbitraires relèvent d’une interface de génération. L’annonce concerne ainsi un outil spécialisé, destiné à des décisions dont la question peut être définie à l’avance et dont la réponse peut prendre une forme attendue. La prise en charge des images s’ajoute au texte comme type d’entrée possible. Pour les développeurs, le point principal est cette combinaison entre des entrées multimodales et des résultats organisés en probabilité, en choix ou en score. L’API est en bêta publique, et les informations disponibles décrivent ses formats et son tarif standard, sans établir qu’elle convienne à tous les types de tâches.

NNoor

L’API accepte trois formats de questions. Predicate renvoie une probabilité, choice sélectionne une valeur et score attribue un niveau ordonné. Pour predicate, la valeur correspond à une probabilité entre 0 et 1, et non à une décision déjà tranchée : le client doit appliquer lui-même un seuil. L’API fournit donc des résultats structurés, mais ne choisit pas à la place du client le seuil applicable à une probabilité. Un développeur peut ainsi demander une probabilité, une valeur parmi des choix ou un score ordonné, selon la forme de sa question. Le format sert à exprimer le type de résultat attendu ; il ne transforme pas automatiquement ce résultat en décision opérationnelle. Cette séparation entre réponse du modèle et seuil appliqué par le client fait partie du fonctionnement annoncé.

NNoor

Les cas d’usage cités sont le routage, le scoring et la sélection guidée. Il peut s’agir de diriger un message vers la bonne file, de choisir un index de recherche ou de sélectionner la prochaine action d’un agent parmi une liste autorisée. Pour ces exemples, l’API traite la décision demandée ; les options et la question doivent être formulées par le client. Le tarif standard annoncé est de 0,10 dollar par million de tokens d’entrée. Les tokens de sortie et les opérations de cache ne sont pas facturés selon ce tarif standard, mais des coefficients peuvent s’appliquer aux contextes étendus et les frais varient selon la région de traitement. Le coût d’un appel dépend donc du volume d’entrée facturable et des conditions applicables au contexte et à la région. À titre de calcul, un million de requêtes comportant chacune 1 000 tokens d’entrée facturables reviendrait à 100 dollars au tarif standard. Ce calcul inclut les questions et leurs descriptions dans le volume d’entrée. Il ne faut donc pas le confondre avec un prix garanti pour toutes les situations : les suppléments annoncés peuvent modifier le coût. Le tarif de 0,10 dollar porte sur les tokens d’entrée, tandis que les sorties et le cache sont indiqués sans frais dans le tarif standard.

NNoor

OpenAI indique que son point de terminaison peut prendre des décisions jusqu’à 10 fois plus vite que l’utilisation du modèle via l’API des réponses. Ce chiffre est une performance annoncée par l’entreprise ; il ne constitue pas une mesure garantie pour chaque requête. La vitesse annoncée ne fixe pas non plus la qualité du résultat ni le seuil à utiliser. Pour une question de type predicate, le client définit ce seuil lui-même. Le seuil n’est pas prescrit par l’API, et l’extrait conseille de partir d’exemples annotés manuellement, puis de mesurer les erreurs à plusieurs seuils avant de choisir. Enfin, une tâche qui réclame une explication rédigée ou l’extraction d’un objet aux champs arbitraires ne correspond pas à l’usage visé par cette API de décisions. Une série de questions de classification ne constitue pas nécessairement un remplacement approprié pour une extraction de facture. La limite essentielle est donc le périmètre : l’outil est présenté pour des questions fermées et des résultats définis, et non pour toute demande adressée à un modèle. Ces éléments invitent à distinguer la rapidité annoncée, le choix du seuil et l’adéquation de la tâche au format de décision.

NNoor

Pour l’intégration, le SDK Python prend en charge l’API à partir de la version 3.26.0, et la clé se configure avec OPENAI_API_KEY. La conception de l’appel repose ensuite sur le format choisi : predicate pour une probabilité, choice pour sélectionner une valeur, ou score pour attribuer un niveau ordonné. Pour établir un seuil, l’extrait recommande de mesurer les erreurs à plusieurs valeurs à partir d’exemples annotés manuellement. Il faut également distinguer les usages de décision circonscrite des tâches qui demandent une génération libre ou une extraction de champs arbitraires. Côté coût, le tarif standard porte sur les tokens d’entrée, tandis que les tokens de sortie et les opérations de cache sont annoncés sans frais ; les contextes étendus et les régions peuvent toutefois entraîner des suppléments ou des frais différents. OpenAI annonce une vitesse pouvant aller jusqu’à 10 fois celle de l’utilisation du modèle par l’API des réponses, mais cela ne remplace pas l’évaluation des erreurs ni le choix du seuil par le client. En bref, cette bêta propose une interface spécialisée pour obtenir des probabilités, des choix ou des scores, à partir de texte ou d’images. Son emploi suppose de définir la question, le résultat attendu et la manière dont le système utilisera cette réponse.