IBM e i suoi collaboratori hanno annunciato la versione 1.0 del framework open source llm‑d il 20 ottobre 2026, in occasione della PyTorch Conference. L’aggiornamento introduce controlli della qualità del servizio, aggiornamenti senza interruzioni e un instradamento più intelligente delle cache, così che le aziende possano eseguire modelli linguistici di grandi dimensioni sui propri cluster Kubernetes senza sovraccaricare il servizio. IBM ha dichiarato che una dimostrazione ha eseguito 3.000 agenti di programmazione su hardware gestito internamente, a un costo da cinque a dieci volte inferiore rispetto a un modello ospitato. Il framework è compatibile con motori di inferenza come vLLM e SGLang.
Perché conta
Le aziende possono mantenere i carichi di lavoro AI al proprio interno, riducendo i costi del cloud ed evitando di dipendere da un unico fornitore.
