LMSYS Org, l’association à l’origine du moteur d’inférence IA open source SGLang, a annoncé la création du consortium SGLang lors de la keynote d’ouverture du premier SGLang Summit, à San Francisco. Ses membres fondateurs sont NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal et RadixArk. Le groupe collaborera avec les responsables de SGLang pour définir la feuille de route du projet et améliorer l’inférence IA open source.
Pourquoi c'est important
Les développeurs d’applications IA bénéficieront d’un soutien coordonné de grands fournisseurs de matériel et de services cloud pour rendre l’inférence open source plus rapide et moins coûteuse.
