오픈소스 추론 엔진이 0.5.22 버전으로 업그레이드됐다. 여러 모델의 처리량이 개선되고 Mac을 기본 지원한다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
SGLang 프로젝트가 버전 0.5.22를 출시했다. NVIDIA H200 GPU에서 DeepSeek‑V4.1의 속도가 최대 2.3배 빨라졌으며, AMD MI350X/MI355X 지원도 추가돼 처리량이 최대 1.9배 향상됐다. EmbeddingGemma 2와 Kandinsky 6 등 새 모델도 지원한다. 이제 표준 PyTorch 백엔드를 사용해 Apple Silicon Mac에서 엔진을 실행할 수 있다. 업그레이드하려면 Python 3.11 이상이 필요하다.
개발자는 새 서버를 구매하지 않고도 Mac을 비롯한 더 다양한 하드웨어에서 더 큰 LLM을 빠르게 실행할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
모델
새로운 Forest Typology 2020 지도는 10미터 단위로 전 세계 토지를 자연림, 조림지, 농업용 산림 등으로 분류하고, 2017~2025년 연도별 변화를 보여준다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
