OpenAI가 GPT‑6 모델에 Astra Ultrafast라는 새로운 성능 모드를 추가했다. 이 모드는 NVIDIA의 Blackwell 그래픽 칩에서 실행되며, ChatGPT Work 및 Codex 요금제 이용자는 이미 OpenAI API를 통해 사용할 수 있다. OpenAI는 Astra Ultrafast의 토큰 생성 속도가 기본 Astra 모드보다 최대 8배 빠르다고 밝혔다. 이에 따라 대화형 AI 애플리케이션의 응답성이 높아질 수 있다.
개발자에게 속도가 중요한 이유
토큰 생성 속도가 빨라지면 AI 어시스턴트가 코드를 작성하고, 도구를 호출하고, 결과를 확인한 뒤 다음 단계를 결정하는 과정이 짧아진다. OpenAI의 추론 부문 책임자 Philippe Tillet은 속도 향상으로 에이전트가 편집·테스트·디버깅 과정을 더 빠르게 마칠 수 있다고 설명했다. 한 번의 작업 흐름에서 여러 차례 호출이 이뤄지는 경우에는 지연 시간에 따른 비용도 줄어들 수 있다.
NVIDIA 하드웨어가 성능 향상을 뒷받침하는 방식
OpenAI는 NVIDIA의 “도구와 문서에 대한 대대적인 투자” 덕분에 Blackwell 아키텍처를 활용하는 고성능 커널을 작성할 수 있었다고 밝혔다. 또 GPU에서 실행되는 추론 소프트웨어를 지속적으로 개선하기 위해 자체 모델도 활용하고 있어, 출시 후에도 성능이 계속 향상될 수 있다.
왜 중요한가
코드 생성 도구를 만드는 개발자는 응답 속도 향상을 체감하고 편집·테스트·디버깅 과정을 단축할 수 있다. 작업 흐름이 빨라지면 앱의 AI 기능을 이용하는 사람들의 대기 시간도 줄어 전반적인 사용 경험이 개선된다. 지연 시간 단축이 최종 사용자 비용을 얼마나 낮출지는 아직 지켜봐야 한다.
