Oossa

vLLM 0.34.0 ajoute la prise en charge d’EFA à ses images CUDA

Cette version ajoute les bibliothèques utilisateur d’AWS EFA à l’image CUDA par défaut et configure l’image -efa pour acheminer par défaut le trafic NCCL via EFA.

BrèvePar Publié par Oossa: 1 min de lecture

Le projet vLLM a publié la version 0.34.0 le 17 novembre 2026, avec des contributions de 412 personnes. Son image CUDA par défaut inclut désormais les bibliothèques utilisateur d’AWS Elastic Fabric Adapter (EFA). De son côté, l’image distincte -efa intègre DeepEP compilé pour EFA et achemine par défaut le trafic NCCL via EFA.

La version propose également des wheels pour CUDA 13.0 sur x86_64 et arm64, ainsi que des versions pour CPU et XPU.

Pourquoi c'est important

Pour les équipes qui exécutent vLLM sur AWS, ces changements rendent les composants EFA disponibles par défaut dans l’image CUDA. Les notes de version ne chiffrent toutefois aucun gain de performances.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.