LMSYS Org, die gemeinnützige Organisation, die die Open-Source-KI-Inferenz-Engine SGLang betreut, hat das SGLang-Konsortium bei der Eröffnungs-Keynote des ersten SGLang Summit in San Francisco angekündigt. Zu den Gründungsmitgliedern gehören NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal und RadixArk. Die Gruppe wird gemeinsam mit den Maintainerinnen und Maintainer von SGLang die Roadmap des Projekts gestalten und die Open-Source-KI-Inferenz verbessern.
Warum es wichtig ist
Entwickler von KI-Anwendungen erhalten koordinierte Unterstützung durch führende Hardware- und Cloud-Anbieter, damit Open-Source-Inferenz schneller und kostengünstiger wird.
