OpenAI a mis son API Decisions à la disposition de tous les utilisateurs le 2026‑10‑22. Le modèle est une version réajustée de ChatGPT Luna qui répond en 100‑180 ms, au lieu de quelques secondes. OpenAI a ajouté la prise en charge de la voix et des images et réparti ses serveurs d’inférence dans le monde entier afin de réduire la latence. Des premiers utilisateurs comme Box, Datadog, Ramp et Speak affirment que l’API leur permet de remplacer les appels classiques aux LLM par des décisions beaucoup plus rapides. Cette initiative place OpenAI sur le marché en plein essor des « modèles de décision », auquel le modèle Jev de TypeSafe a contribué à donner naissance.
Pourquoi c'est important
Les développeurs peuvent remplacer les appels plus lents aux LLM par l’API Decisions, rapide et peu coûteuse, et réduire les temps de réponse dans des applications réelles, comme Speak, où ils passent de 1,4 s à 0,13 s.
