Oossa

vLLM 0.34.0 incorpora compatibilidad con EFA en sus imágenes CUDA

La versión incluye las bibliotecas de usuario de AWS EFA en la imagen CUDA predeterminada y configura la imagen -efa para que NCCL use EFA de forma predeterminada.

BrevePor Publicado por Oossa: 1 min de lectura

El proyecto vLLM publicó la versión 0.34.0 el 17 de noviembre de 2026, con aportes de 412 personas. La imagen CUDA predeterminada ahora incluye las bibliotecas de usuario de AWS Elastic Fabric Adapter (EFA), mientras que la imagen independiente -efa incorpora DeepEP compilado para EFA y enruta el tráfico de NCCL a través de EFA de forma predeterminada.

La versión también ofrece paquetes wheel para CUDA 13.0 en x86_64 y arm64, además de compilaciones para CPU y XPU.

Por qué importa

Para los equipos que ejecutan vLLM en AWS, los cambios en las imágenes hacen que los componentes de EFA estén disponibles de forma predeterminada en la imagen CUDA, aunque las notas de la versión no cuantifican las mejoras de rendimiento.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.