오픈소스 AI 추론 엔진 SGLang을 관리하는 비영리단체 LMSYS Org가 샌프란시스코에서 열린 첫 SGLang Summit의 개막 기조연설에서 SGLang 컨소시엄 출범을 발표했다. 창립 회원사는 NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal, RadixArk다. 컨소시엄은 SGLang 유지관리자들과 협력해 프로젝트의 로드맵을 수립하고 오픈소스 AI 추론을 개선할 예정이다.
왜 중요한가
AI 애플리케이션 개발자는 주요 하드웨어·클라우드 제공업체의 공조된 지원을 받아 오픈소스 추론을 더 빠르고 저렴하게 구현할 수 있다.