Oossa

llama.cpp b12532 justerar KV-padding för OpenCL och får nya binärer

Körtidsmiljön för öppna språkmodeller får uppdaterat OpenCL-stöd och nya byggen för macOS, iOS och flera Linux-plattformar.

NotisAv Publicerad av Oossa: 1 min läsning

ggml‑org släppte llama.cpp version b12532 den 2026‑11‑19. Uppdateringen låter OpenCL-användare justera padding för nyckel- och värdecache (KV) i den uppdelade flash-attention-algoritmen. Den innehåller också förkompilerade binärer för Apple Silicon, Intel-Macar, iOS och flera Linux-arkitekturer, däribland Ubuntu x64, arm64, s390x och Vulkan-byggen.

Varför det spelar roll

Utvecklare kan nu finjustera minneslayouten för OpenCL-GPU:er, vilket potentiellt kan förbättra prestandan på hårdvara som stöds.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.