Oossa

llama.cpp voegt TOP_K_MASK toe aan Vulkan-backend

De opensourcebibliotheek llama.cpp breidt de Vulkan-ondersteuning uit met TOP_K_MASK en verhelpt problemen met bijbehorende barriers en headerdeclaraties.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het project ggml‑org/llama.cpp bracht op 2026‑11‑13 een nieuwe versie uit. De update voegt de bewerking TOP_K_MASK toe aan de Vulkan-backend voor GPU’s, verhelpt een probleem met een barrier voor dit masker en declareert de functie in de gemeenschappelijke header. Bij de wijzigingen kreeg het project hulp van Claude Opus 5.5.

Waarom het ertoe doet

GPU-gebruikers kunnen tijdens inferentie nu top-k-masking toepassen en zo nauwkeuriger bepalen welke tokens worden geselecteerd.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.