OpenAI ouvre son modèle de décision rapide pour contrer Jev

Résumé

OpenAI ouvre son modèle Decisions API à tous ses clients, accélérant la concurrence avec Jev sur les modèles de décision rapides et économiques.

Les faits

OpenAI a rendu son modèle Decisions API largement accessible à ses clients pour la première fois. Cette initiative place l’entreprise sur le marché des modèles de décision rapides et peu coûteux, une catégorie popularisée par Jev, le modèle de TypeSafe. Ces systèmes évaluent rapidement un ensemble d’options et fournissent une estimation de confiance pour leur décision. Nikunj Handa, responsable produit des API d’OpenAI, explique que l’équipe a reconfiguré ChatGPT Luna afin d’accélérer l’inférence et de réduire les coûts, plutôt que de concevoir un modèle spécifiquement calibré pour la prise de décision. Selon lui, la latence est passée « d’une à trois secondes à 100, 120 ou 180 millisecondes ». Il précise également que le modèle repose actuellement sur « le vieux Luna qui fait le travail ». Annoncée lors de la journée développeurs d’OpenAI le 29 septembre, l’API Decisions est devenue accessible à tous les clients le 22 octobre. La version publique intègre de nouvelles modalités vocales et visuelles, tandis qu’OpenAI a réparti ses ressources d’inférence géographiquement pour réduire la latence dans différentes régions. Lors d’essais menés avec Box, Datadog, Ramp et Speak, les ingénieurs ont utilisé l’API pour remplacer des grands modèles de langage d’OpenAI et augmenter le débit. Andrew Hsu, directeur technique de Speak, affirme que le délai entre deux actions est passé de 1,4 seconde à 0,13 seconde. OpenAI a également utilisé le produit pour améliorer la réactivité de son assistant vocal Dots.

Pourquoi c’est important

L’arrivée de l’API Decisions élargit la compétition au-delà des modèles généralistes en privilégiant un arbitrage entre intelligence, coût, calibration et vitesse. Les gains de latence observés chez Speak illustrent l’intérêt de ces systèmes pour les applications nécessitant une succession rapide de décisions. La multimodalité pourrait constituer un avantage pour OpenAI. Nikunj Handa indique que Luna est « extrêmement puissant » pour la classification d’images et présente de meilleures calibrations. L’entreprise envisage aussi d’abaisser la latence jusqu’à environ 60 millisecondes, ce qui ouvrirait la voie à des appels d’API pour chaque image d’une vidéo.

Questions fréquentes

Qu’est-ce que l’API Decisions d’OpenAI ?

C’est une API de modèle de décision conçue pour choisir rapidement entre plusieurs options, avec une estimation de confiance.

Quand l’API Decisions est-elle devenue accessible à tous les clients ?

Elle est devenue accessible à tous les clients le 22 octobre 2026.

Quel modèle sert de base à l’API Decisions ?

OpenAI a reconfiguré ChatGPT Luna afin d’accélérer l’inférence et de réduire les coûts.

Quels gains Speak a-t-il observés ?

Speak indique avoir réduit le délai entre deux actions de 1,4 seconde à 0,13 seconde.

Quelles modalités sont disponibles dans la version publique ?

La version publique ajoute des modalités vocales et visuelles.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.