LMSYS Org, la nonprofit che mantiene il motore open source per l’inferenza AI SGLang, ha annunciato la nascita del consorzio SGLang durante il keynote di apertura del primo SGLang Summit, a San Francisco. I membri fondatori sono NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal e RadixArk. Il gruppo collaborerà con i manutentori di SGLang per definire la roadmap del progetto e migliorare l’inferenza AI open source.
Perché conta
Gli sviluppatori di applicazioni AI potranno contare sul supporto coordinato dei principali fornitori di hardware e servizi cloud per rendere l’inferenza open source più veloce e meno costosa.
