Das Projekt llama.cpp hat mit Release b11850 Unterstützung für Soprano-80M und Soprano-1.1-80M ergänzt. Die Sprachgenerierungsmodelle verwenden ein Qwen3-Backbone und einen Vocos-Audiodecoder, den llama.cpp nun über seinen multimodalen Code unterstützt.
Laut den Versionshinweisen verarbeitet der Decoder die gesamte Äußerung auf einmal. Im Streaming-Modus sendet llama.cpp das Audio daher als einen einzigen Block, sobald die Pipeline geleert wurde, statt es Stück für Stück auszugeben. Die Hinweise dokumentieren die Softwareunterstützung, machen aber keine Angaben zu den Nutzungsbedingungen für die Modelle oder zur Leistung.
Warum es wichtig ist
Entwickler, die llama.cpp verwenden, können diese Soprano-Sprachmodelle in ihre Projekte einbinden. Für Anwendungen, die Audio in kleinen Streaming-Blöcken benötigen, ist möglicherweise ein anderer Ansatz nötig; zur Geschwindigkeit der Generierung machen die Versionshinweise keine Angaben.
