# llm‑d 1.0 ajoute des contrôles internes pour l’inférence IA en entreprise

> IBM, Red Hat et leurs partenaires lancent llm‑d version 1.0, qui apporte la QoS, des mises à niveau sans interruption et un routage amélioré du cache pour les grands modèles hébergés en interne.

Oossa · 2026-10-20 · https://oossa.com/fr/llm-d-1-0-adds-in-house-controls-for-enterprise-ai-inference

IBM et ses partenaires ont annoncé la version 1.0 du framework open source llm‑d le 20 octobre 2026, à la PyTorch Conference. Cette mise à jour ajoute des contrôles de qualité de service, des mises à niveau sans interruption et un routage du cache plus efficace, afin que les entreprises puissent exécuter de grands modèles de langage sur leurs propres clusters Kubernetes sans surcharger le service. IBM a indiqué qu’une démonstration avait fait tourner 3 000 agents de programmation sur du matériel hébergé en interne, à un coût de cinq à dix fois inférieur à celui d’un modèle hébergé. Le framework est compatible avec des moteurs d’inférence comme vLLM et SGLang.

## Les faits

- Version 1.0 publiée le 20 octobre 2026
- Démonstration : 3 000 agents exécutés à un coût 5 à 10 fois inférieur à celui d’un service hébergé

## Pourquoi c'est important

Les entreprises peuvent garder leurs charges de travail d’IA en interne, réduire leurs coûts liés au cloud et éviter de dépendre d’un seul fournisseur.

## Sources et références

1. [IBM-backed llm-d framework adds controls for running AI models in-house](https://siliconangle.com/2026/10/20/ibm-backed-llm-d-framework-adds-controls-for-running-ai-models-in-house/) – SiliconANGLE, 2026-10-20
2. [llm-d 1.0 hardens open-source AI inference for day 2 production operations](https://research.ibm.com/blog/llmd-1-0-is-ready-for-production-inference-serving) – IBM Research
3. [Google Cloud Ships llm-d 1.0 With Cache-Aware Routing for TPU and GPU Fleets](https://www.marktechpost.com/2026/10/20/llm-d-1-0-open-source-distributed-inference-stack/) – MarkTechPost, 2026-10-21

Dernière mise à jour: 2026-10-21