Oossa

llama.cpp b12532 voegt instelbare KV-padding voor OpenCL toe

De open-source LLM-runtime krijgt bijgewerkte OpenCL-ondersteuning en nieuwe builds voor macOS, iOS en diverse Linux-platforms.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

ggml-org heeft op 2026-11-19 llama.cpp versie b12532 uitgebracht. Met de update kunnen OpenCL-gebruikers de key-value-padding (KV-padding) aanpassen in het opgesplitste flash-attention-algoritme. Ook zijn er vooraf gecompileerde binaries voor Apple Silicon, Intel Macs, iOS en diverse Linux-architecturen, waaronder Ubuntu x64, arm64, s390x en Vulkan-builds.

Waarom het ertoe doet

Ontwikkelaars kunnen de geheugenindeling nu afstemmen voor OpenCL-GPU's, wat de prestaties op ondersteunde hardware mogelijk verbetert.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.