Oossa

llama.cpp får stöd för VoxCPM2 och blir något snabbare

Öppen källkod-körmiljön för LLM:er llama.cpp vb12531 får stöd för voxcpm2 och en mindre prestandaökning. Nya binärfiler finns för macOS, iOS och Linux.

NotisAv Publicerad av Oossa: 1 min läsning

ggml‑org-teamet har släppt llama.cpp version b12531. Uppdateringen ger stöd för modellformatet voxcpm2 och en liten hastighetsökning. Den innehåller också nya förkompilerade binärfiler för macOS med Apple Silicon, macOS med Intel, iOS och flera Ubuntu-versioner. Ändringarna listas som ”mtmd: support voxcpm2” samt en handfull korrigeringar.

Varför det spelar roll

Utvecklare kan nu köra de nyare voxcpm2-modellerna på fler plattformar och får samtidigt en liten hastighetsökning.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.