Oossa

llama.cpp lägger till TOP_K_MASK i Vulkan-backend

Det öppna biblioteket llama.cpp uppdaterar Vulkan-stödet med funktionen TOP_K_MASK och åtgärdar relaterade barriärer och deklarationer i header-filen.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet ggml‑org/llama.cpp släppte en ny version den 2026‑11‑13. Uppdateringen lägger till operationen TOP_K_MASK i Vulkan-backenden för GPU:er, åtgärdar ett barriärproblem för masken och deklarerar funktionen i den gemensamma header-filen. Ändringarna gjordes med hjälp av Claude Opus 5.5.

Varför det spelar roll

GPU-användare kan nu använda top-k-maskning vid inferens och därmed få bättre kontroll över valet av token.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.