Le projet vLLM a publié la version 0.34.0 le 17 novembre 2026, avec des contributions de 412 personnes. Son image CUDA par défaut inclut désormais les bibliothèques utilisateur d’AWS Elastic Fabric Adapter (EFA). De son côté, l’image distincte -efa intègre DeepEP compilé pour EFA et achemine par défaut le trafic NCCL via EFA.
La version propose également des wheels pour CUDA 13.0 sur x86_64 et arm64, ainsi que des versions pour CPU et XPU.
Pourquoi c'est important
Pour les équipes qui exécutent vLLM sur AWS, ces changements rendent les composants EFA disponibles par défaut dans l’image CUDA. Les notes de version ne chiffrent toutefois aucun gain de performances.