Oossa

llama.cpp b11688 ger AVX2-lyft för processorer

Den nya binären av open source-biblioteket llama.cpp minskar antalet AVX2-ackumulatorer i block och förbättrar prestandan på processorer.

NotisAv Publicerad av Oossa: 1 min läsning

Teamet bakom ggml-org släppte llama.cpp version b11688 den 2026-10-16. Uppdateringen innehåller en ändring som enbart gäller processorer: antalet AVX2-ackumulatorer i block minskas, vilket enligt projektet gör inferensen snabbare. Förkompilerade binärer finns för macOS, iOS, Linux, Vulkan och CUDA och stöder en rad olika typer av hårdvara. Ändringen är märkt som framtagen med hjälp av Codex, OpenAI:s modell för kodgenerering.

Varför det spelar roll

Utvecklare kan köra llama.cpp-modeller snabbare på AVX2-processorer utan att bygga om koden.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.