vLLM 프로젝트가 2026년 11월 17일 버전 0.34.0을 출시했으며, 412명이 개발에 참여했습니다. 기본 CUDA 이미지에는 이제 AWS Elastic Fabric Adapter(EFA) 사용자 공간 라이브러리가 포함됩니다. 별도의 -efa 이미지에는 EFA용으로 빌드한 DeepEP가 추가되며, 기본적으로 NCCL 트래픽을 EFA로 전송합니다.
이번 릴리스는 x86_64 및 arm64용 CUDA 13.0 휠과 CPU 및 XPU 빌드도 제공합니다.
왜 중요한가
AWS에서 vLLM을 실행하는 팀은 이미지 변경에 따라 기본 CUDA 이미지에서 EFA 구성요소를 사용할 수 있습니다. 다만 릴리스 노트에는 성능 향상 정도가 수치로 제시되지 않았습니다.