OpenAI généralise son API Decisions, malgré des rivaux mieux classés

SSacha

OpenAI a annoncé l’API Decisions pendant sa journée développeurs du 29 septembre, puis l’a ouverte à l’ensemble de ses clients jeudi, d’après TechCrunch. L’idée est de confier au modèle des décisions dont la réponse peut tenir dans une forme précise, au lieu de lui demander systématiquement de rédiger une explication complète. L’API peut renvoyer, par exemple, une probabilité, un choix parmi plusieurs possibilités ou une note calculée avec une grille définie. Une application peut ensuite exploiter cette réponse pour classer un contenu, diriger une requête vers un service ou établir l’ordre de traitement de tâches. Imaginez un aiguillage dans une gare : le logiciel présente les options et les critères, puis reçoit une indication directement utilisable pour choisir la bonne voie. Cela ne veut pas dire que le modèle décide de tout à la place des personnes, ni qu’il convient à chaque situation ; il s’agit d’un outil destiné à des opérations où une réponse cadrée est utile. L’ouverture à tous les clients marque donc le passage d’une bêta publique à une disponibilité générale, mais ne prouve pas que le service est déjà adopté partout ou dans tous les processus.

SSacha

OpenAI n’a pas construit pour cette API un modèle entièrement distinct : l’entreprise a repris ChatGPT Luna et l’a reconfiguré pour accélérer l’inférence et réduire les coûts, selon TechCrunch. Nikunj Handa, responsable produit des API chez OpenAI, a indiqué que certains délais de réponse, auparavant compris entre une et trois secondes, se situent désormais autour de 100 à 180 millisecondes. Ce sont des chiffres communiqués par OpenAI, pas une promesse que chaque requête sera traitée dans ce délai, quelles que soient sa complexité et la région de l’utilisateur. L’entreprise a aussi réparti géographiquement ses ressources d’inférence afin de réduire la latence selon les régions, autrement dit de rapprocher une partie des capacités de calcul des requêtes. La version publique prend en charge la voix et les images, en plus des demandes textuelles ; cela élargit les types d’informations qu’une application peut transmettre, sans signifier que toute analyse visuelle ou vocale donnera nécessairement un résultat instantané. Le point important est que Luna reste le moteur de l’API : OpenAI l’a adapté à des réponses courtes et structurées, plutôt que d’annoncer un nouveau modèle spécialisé entraîné de zéro. Cette approche combine donc un modèle existant, des réglages orientés vers la vitesse et une infrastructure répartie, mais les chiffres réels peuvent dépendre de l’application et de son usage.

SSacha

Les usages cités comprennent le classement de contenus, l’acheminement de requêtes et la priorisation de tâches, d’après Unite.AI. Ce sont des fonctions que l’on retrouve dans des logiciels où une réponse lisible par la machine peut servir à déclencher une étape suivante, comme orienter une demande ou placer un élément dans une file de traitement. Le tarif annoncé par OpenAI est de 0,10 dollar par million de jetons d’entrée ; ce chiffre concerne les jetons transmis au modèle et ne permet pas, à lui seul, de calculer le coût global d’un déploiement. Lors d’essais chez Box, Datadog, Ramp et Speak, des équipes ont utilisé l’API pour remplacer des appels à des modèles de langage et augmenter le débit, selon TechCrunch. Cela décrit des essais chez ces entreprises, et non une adoption généralisée de la solution dans tous leurs produits. Speak, qui développe des outils d’apprentissage des langues, affirme que le délai entre deux actions est passé de 1,4 seconde à 0,13 seconde. Concrètement, dans une interaction qui enchaîne plusieurs étapes, réduire l’attente peut rendre l’échange plus fluide, mais ce résultat rapporté par Speak ne garantit pas le même gain pour chaque client. OpenAI utilise également cette API pour améliorer la réactivité de son assistant vocal Dots. Le coût et la vitesse devront donc être évalués en fonction du volume de requêtes, de la tâche choisie et de la qualité de réponse nécessaire.

SSacha

Les classements publics ne placent pas le modèle de décision d’OpenAI en tête. TechCrunch cite l’AIM System One Index et l’Artificial Analysis Decision Index : OpenAI y apparaît respectivement à la huitième et à la quatorzième place, tandis que le dernier Jev de TypeSafe se classe septième et troisième. D1 Ultra, de Liquid, et Elephant-1, de Base Lab, sont également devant le modèle d’OpenAI dans ces comparaisons. Ces résultats donnent un repère, mais ils ne suffisent pas à établir quel modèle sera le plus utile pour chaque application, car la vitesse, le coût et la qualité attendue peuvent compter différemment selon la tâche. Il existe aussi un test appelé JevMan, où des modèles jouent à Pac-Man et doivent prendre des décisions rapidement ; les éléments disponibles ne permettent pas d’en détailler les résultats de manière vérifiable. Nikunj Handa a évoqué la possibilité qu’OpenAI entraîne ses modèles de façon plus ciblée à l’avenir, mais il ne s’agit pas de l’annonce d’un changement déjà réalisé. Pour l’instant, Luna reste le moteur de l’API. La limite à garder en tête est donc double : les performances annoncées par l’entreprise ne se transposent pas automatiquement à tous les usages, et les rangs d’un benchmark ne résument pas à eux seuls l’expérience dans une application réelle.

SSacha

OpenAI rend donc son API Decisions accessible à tous ses clients, avec un modèle Luna reconfiguré pour produire des réponses structurées et réduire les délais annoncés. Le service vise des tâches concrètes de classement, d’orientation et de priorisation, et sa version publique accepte aussi la voix et les images. Les premiers essais rapportés montrent que des équipes de plusieurs entreprises l’ont utilisée pour remplacer certains appels à des modèles de langage ; Speak, de son côté, fait état d’un délai entre actions réduit de 1,4 seconde à 0,13 seconde. Ce sont des résultats issus d’essais et d’un témoignage d’entreprise, pas une mesure universelle qui s’appliquerait à tous les logiciels. Le prix annoncé, 0,10 dollar par million de jetons d’entrée, donne un élément de comparaison, mais le coût total dépendra du volume et de la façon dont l’API sera intégrée. En face, deux benchmarks publics placent le modèle d’OpenAI huitième et quatorzième, derrière plusieurs concurrents, notamment D1 Ultra et Elephant-1. Pour un développeur, l’enjeu est donc de vérifier si la rapidité, le tarif et la qualité correspondent à sa tâche précise, plutôt que de se fier à un seul chiffre ou à un seul classement. OpenAI pourrait envisager un entraînement ciblé plus tard, mais Luna est vendredi le moteur actuel du service et aucun changement de modèle n’est annoncé comme déjà effectué.