llama.cpp 프로젝트가 b11850 릴리스에서 Soprano-80M과 Soprano-1.1-80M 지원을 추가했습니다. 이 음성 생성 모델은 Qwen3 백본과 Vocos 오디오 디코더를 사용하며, 이제 llama.cpp의 멀티모달 코드를 통해 이를 지원합니다.
릴리스 노트에 따르면 디코더는 발화 전체를 한 번에 처리합니다. 따라서 스트림 모드에서 llama.cpp는 파이프라인을 플러시한 뒤 오디오를 여러 조각으로 나눠 전달하는 대신 한 덩어리로 전송합니다. 릴리스 노트에는 소프트웨어 지원 사항이 설명돼 있지만, 모델 이용 조건이나 성능은 명시돼 있지 않습니다.
왜 중요한가
llama.cpp를 사용하는 개발자는 프로젝트에 Soprano 음성 모델을 추가할 수 있습니다. 다만 오디오를 작은 조각으로 스트리밍해야 하는 애플리케이션에는 다른 접근 방식이 필요할 수 있으며, 릴리스 노트에는 생성 속도가 언급돼 있지 않습니다.