LMSYS Org, некоммерческая организация, которая поддерживает движок инференса ИИ с открытым исходным кодом SGLang, объявила о создании консорциума SGLang на открытии первого саммита SGLang в Сан-Франциско. В число учредителей вошли NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal и RadixArk. Участники будут вместе с разработчиками SGLang определять дальнейший план развития проекта и совершенствовать инференс ИИ с открытым исходным кодом.
Почему это важно
Разработчики ИИ-приложений получат скоординированную поддержку от ведущих производителей оборудования и облачных провайдеров, что поможет сделать инференс моделей с открытым исходным кодом быстрее и дешевле.
