OpenAI는 2026-10-22 모든 사용자에게 Decisions API를 공개했다. 이 모델은 ChatGPT Luna를 재조정한 버전으로, 응답 시간이 몇 초에서 100-180ms로 줄었다. OpenAI는 음성 및 시각 지원을 추가하고 전 세계에 추론 서버를 배치해 지연 시간을 낮췄다. Box, Datadog, Ramp, Speak 등 초기 도입 기업들은 이 API를 사용하면 일반적인 LLM 호출을 훨씬 빠른 판단으로 대체할 수 있다고 밝혔다. 이번 조치로 OpenAI는 TypeSafe의 Jev 모델이 시장 형성에 기여한 성장 중인 ‘의사결정 모델’ 시장에 진출했다.
왜 중요한가
개발자는 느린 LLM 호출을 빠르고 저렴한 Decisions API로 대체할 수 있다. 이에 따라 Speak와 같은 실제 앱의 응답 시간이 1.4초에서 0.13초로 단축된다.
