Oossa

llama.cpp b11799 voegt snelle SYCL-dequantisatie voor q8 toe

Versie b11799 van de opensourcebibliotheek llama.cpp verscheen op 21 oktober 2026 en voegt een snelle SYCL-routine voor dequantisatie toe. Ook zijn er nieuwe binaries voor macOS, iOS en Linux.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het ggml-org-team bracht llama.cpp versie b11799 uit op 21 oktober 2026. De update voegt een SYCL-implementatie toe voor snelle dequantisatie van q8 (pull #30775). Ook bevat de release voorgebouwde binaries voor Apple Silicon, Intel-Macs, iOS en verschillende Ubuntu-configuraties, waaronder Vulkan en CUDA 12.8.

Waarom het ertoe doet

Ontwikkelaars kunnen llama.cpp nu met snellere SYCL-dequantisatie gebruiken op compatibele GPU's. Daardoor zijn er meer hardwareopties om LLM's lokaal te draaien.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.