LMSYS Org, den ideella organisation som underhåller AI-motorn för inferens SGLang med öppen källkod, presenterade SGLang-konsortiet vid öppningsanförandet på det första SGLang Summit i San Francisco. De grundande medlemmarna är NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal och RadixArk. Gruppen ska samarbeta med SGLangs underhållare för att forma projektets färdplan och förbättra AI-inferens med öppen källkod.
Varför det spelar roll
Utvecklare av AI-appar får samordnat stöd från ledande hårdvaru- och molnleverantörer för att göra inferens med öppen källkod snabbare och billigare.
