Oossa

llama.cpp v0.13 utökar DMA-stödet för snabbare binära operationer

Open source-biblioteket llama.cpp släppte en ny version den 13 okt. 2026 med utökad DMA-broadcasting för binära operationer på flera plattformar.

NotisAv Publicerad av Oossa: 1 min läsning

Teamet bakom ggml-org publicerade llama.cpp-versionen b11580 den 13 okt. 2026. Uppdateringen utökar stödet för skalär DMA (direkt minnesåtkomst) vid binära operationer och innehåller nya kärnor för upprepning och komplexa data. Den rensar också upp i sökvägar utan DMA och lägger till stöd för icke-sammanhängande steg. Ändringarna berör byggen för CPU, CUDA, Vulkan och Hexagon NPU på Linux, Windows, macOS och Android. Utvecklare kan nu utföra tensorberäkningar effektivare på enheter från Apple Silicon till Snapdragon-chip.

Varför det spelar roll

Utvecklare kan köra llama.cpp-modeller snabbare på fler typer av hårdvara, vilket minskar inferenstiden för slutanvändare.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.