A LMSYS Org, organização sem fins lucrativos que mantém o mecanismo de inferência de IA de código aberto SGLang, anunciou o Consórcio SGLang na palestra de abertura do primeiro SGLang Summit, em San Francisco. Os membros fundadores são NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal e RadixArk. O grupo trabalhará com os mantenedores do SGLang para definir o roteiro do projeto e aprimorar a inferência de IA de código aberto.
Por que importa
Desenvolvedores de aplicativos de IA terão apoio coordenado de grandes provedores de hardware e nuvem para tornar a inferência de código aberto mais rápida e barata.
