새 버전은 여러 모델과 희소 KV 캐시, Mooncake 스토어 풀을 지원하며 멀티 GPU 스트리밍과 양자화된 헤드 관련 버그를 수정했습니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
NVIDIA가 2026년 10월 14일 TensorRT‑LLM 버전 1.4.0rc0을 발표했습니다. 이번 업데이트에서는 GLM‑5.3‑Flash와 Qwen‑Image‑Layered 등 새 모델을 지원하고, 계층별 잠금 기능을 갖춘 희소 키-값 캐시를 도입했습니다. Mooncake 스토어 풀과 V2 스케줄러의 선점 기능도 추가했습니다. H100 GPU에서 멀티 GPU 스트리밍이 멈추는 문제와 Blackwell GPU에서 DeepSeek 모델이 충돌하는 문제를 비롯해 여러 버그도 수정했습니다.
개발자는 NVIDIA GPU에서 더 적은 메모리로 대규모 언어 모델을 실행하고 충돌을 줄일 수 있습니다.
모델
기존 GLM-5.3 Flash를 전문 업무에 맞게 추가 학습했다. API는 공개됐고 모델 가중치는 2주 뒤 공개할 예정이다.
모델
새로운 Kandinsky S2V 1.0 Lite(2B)와 Pro(21B)는 음성과 사진 한 장으로 초당 25프레임의 말하는 인물 영상을 생성한다. 코드는 MIT 라이선스로 무료 공개됐다.
모델
Artificial Analysis의 음성 대 음성 지수에서 86.9점을 받아 OpenAI와 Google을 앞선 새 모델이 Voice Agent API에 적용됐다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
