Das Team von ggml-org hat llama.cpp in Version b12531 veröffentlicht. Das Update ergänzt die Unterstützung für das Modellformat voxcpm2 und sorgt für eine leichte Geschwindigkeitssteigerung. Außerdem enthält es neue vorgefertigte Binärdateien für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, iOS und mehrere Ubuntu-Versionen. Die Änderungen sind als „mtmd: support voxcpm2“ sowie einige Fehlerbehebungen aufgeführt.
Warum es wichtig ist
Entwickler können die neueren voxcpm2-Modelle jetzt auf mehr Plattformen ausführen und profitieren dabei von einem kleinen Geschwindigkeitszuwachs.