OpenAI stelde zijn Decisions API op 2026‑10‑22 beschikbaar voor alle gebruikers. Het model is een opnieuw afgestelde versie van ChatGPT Luna, die in 100‑180 ms reageert in plaats van binnen enkele seconden. OpenAI voegde ondersteuning voor spraak en beeld toe en verspreidde inferentieservers over de hele wereld om de latentie laag te houden. Vroege gebruikers als Box, Datadog, Ramp en Speak zeggen dat ze met de API standaardaanroepen naar LLM's kunnen vervangen door veel snellere beslissingen. Met deze stap betreedt OpenAI de groeiende markt voor ‘decision models’, die mede is ontstaan dankzij Jev, het model van TypeSafe.
Waarom het ertoe doet
Ontwikkelaars kunnen tragere LLM-aanroepen vervangen door de snelle, goedkope Decisions API. Dat verkort de responstijd in echte toepassingen, zoals Speak, van 1,4 s naar 0,13 s.
