Il progetto llama.cpp ha aggiunto il supporto a Soprano-80M e Soprano-1.1-80M con la versione b11850. Questi modelli per la generazione vocale usano un’architettura Qwen3 e un decoder audio Vocos, ora supportato da llama.cpp tramite il suo codice multimodale.
Le note di rilascio spiegano che il decoder elabora l’intera frase in una volta. In modalità streaming, quindi, llama.cpp invia l’audio in un unico blocco al termine dell’elaborazione della pipeline, anziché trasmetterlo a pezzi. Le note documentano il supporto software, ma non specificano le condizioni di accesso ai modelli né le prestazioni.
Perché conta
Gli sviluppatori che usano llama.cpp possono integrare questi modelli vocali Soprano nei propri progetti, ma le applicazioni che necessitano di ricevere l’audio in piccoli blocchi durante lo streaming potrebbero dover adottare un approccio diverso. Le note di rilascio non indicano la velocità di generazione.