Oossa

vLLM 0.34.0, CUDA 이미지에 EFA 지원 추가

기본 CUDA 이미지에 AWS EFA 사용자 공간 라이브러리를 포함하고, -efa 이미지에서는 기본적으로 NCCL 트래픽을 EFA로 전송합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

vLLM 프로젝트가 2026년 11월 17일 버전 0.34.0을 출시했으며, 412명이 개발에 참여했습니다. 기본 CUDA 이미지에는 이제 AWS Elastic Fabric Adapter(EFA) 사용자 공간 라이브러리가 포함됩니다. 별도의 -efa 이미지에는 EFA용으로 빌드한 DeepEP가 추가되며, 기본적으로 NCCL 트래픽을 EFA로 전송합니다.

이번 릴리스는 x86_64 및 arm64용 CUDA 13.0 휠과 CPU 및 XPU 빌드도 제공합니다.

왜 중요한가

AWS에서 vLLM을 실행하는 팀은 이미지 변경에 따라 기본 CUDA 이미지에서 EFA 구성요소를 사용할 수 있습니다. 다만 릴리스 노트에는 성능 향상 정도가 수치로 제시되지 않았습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.