LMSYS Org, la organización sin ánimo de lucro que mantiene el motor de inferencia de IA de código abierto SGLang, anunció la creación del Consorcio SGLang durante la ponencia inaugural de la primera SGLang Summit, en San Francisco. Sus miembros fundadores son NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal y RadixArk. El grupo colaborará con los responsables de mantenimiento de SGLang para definir la hoja de ruta del proyecto y mejorar la inferencia de IA de código abierto.
Por qué importa
Los desarrolladores de aplicaciones de IA contarán con el apoyo coordinado de importantes proveedores de hardware y servicios en la nube para que la inferencia de código abierto sea más rápida y económica.
