Het llama.cpp-project heeft in release b11850 ondersteuning toegevoegd voor Soprano-80M en Soprano-1.1-80M. Deze modellen voor spraakgeneratie gebruiken een Qwen3-backbone en een Vocos-audiodecoder, die llama.cpp nu via zijn multimodale code ondersteunt.
Volgens de release notes verwerkt de decoder de volledige uiting in één keer. In de streammodus verstuurt llama.cpp audio daarom als één geheel nadat de pipeline is geflusht, in plaats van de audio stukje bij beetje af te leveren. De release notes beschrijven de softwareondersteuning, maar geven geen informatie over de voorwaarden voor toegang tot de modellen of over de prestaties.
Waarom het ertoe doet
Ontwikkelaars die llama.cpp gebruiken, kunnen deze Soprano-spraakmodellen aan hun projecten toevoegen. Voor toepassingen die audio in kleine, gestreamde delen nodig hebben, is mogelijk een andere aanpak nodig. De release notes vermelden niet hoe snel de generatie verloopt.
