fal AI와 Fireworks가 새 EAGLE-4 추측 디코딩 시스템을 심층 분석한 기술 자료를 공개했다. 블로그에서는 텍스트-이미지, 이미지-이미지, 텍스트-동영상, 이미지-동영상 작업 전반에 걸쳐 프롬프트 400개를 담은 공개 벤치마크 Prompt Enhancement SpecBench도 선보였다. NVIDIA B300 GPU에서 진행한 테스트에서 EAGLE-4 Harness는 Fireworks 벤치마크 기준 배치 크기 1에서 초당 660.6토큰을 처리해, 차순위 방식보다 1.63배 빠른 성능을 냈다. 트리 기반 검증 방식은 창의적인 프롬프트에서 수용 길이를 최대 26% 늘렸다. 이번 연구는 고속 이미지·동영상 모델의 전체 처리 시간에서 큰 비중을 차지하는 프롬프트 확장 단계의 지연 시간을 줄이는 데 목적이 있다.
왜 중요한가
프롬프트 확장 속도가 빨라지면 이미지·동영상 생성기가 거의 실시간으로 작동하게 되더라도 개발자는 대화형 응답 속도를 유지할 수 있다.
