Oossa

llama.cpp unterstützt jetzt VoxCPM2 und wird etwas schneller

Die Open-Source-LLM-Laufzeitumgebung llama.cpp vb12531 unterstützt nun voxcpm2 und bietet einen kleinen Leistungsschub. Neue vorgefertigte Binärdateien gibt es für macOS, iOS und Linux.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das Team von ggml-org hat llama.cpp in Version b12531 veröffentlicht. Das Update ergänzt die Unterstützung für das Modellformat voxcpm2 und sorgt für eine leichte Geschwindigkeitssteigerung. Außerdem enthält es neue vorgefertigte Binärdateien für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, iOS und mehrere Ubuntu-Versionen. Die Änderungen sind als „mtmd: support voxcpm2“ sowie einige Fehlerbehebungen aufgeführt.

Warum es wichtig ist

Entwickler können die neueren voxcpm2-Modelle jetzt auf mehr Plattformen ausführen und profitieren dabei von einem kleinen Geschwindigkeitszuwachs.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.