Oossa

llama.cpp v0.2.4 krijgt SYCL Q5_K-layout en GLU-fusie

De opensourcelibrary llama.cpp bracht op 9 okt 2026 versie b11515 uit, met nieuwe SYCL-ondersteuning en kant-en-klare binaries voor macOS, iOS, Linux en CUDA.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het ggml-org-team bracht op 2026-10-09 release b11515 van llama.cpp uit. De update voegt een SYCL-gebaseerde Q5_K-herordende layout voor matrixvermenigvuldiging met vectoren en quantisatie (MMVQ) en een gefuseerde GLU-operator toe, voor betere prestaties op compatibele hardware. De release bevat ook kant-en-klare binaries voor Apple Silicon, Intel-Macs, iOS, Ubuntu (CPU, Vulkan, CUDA 12.8) en IBM s390x. Gebruikers kunnen het geschikte archief downloaden via de GitHub-pagina.

Waarom het ertoe doet

Ontwikkelaars kunnen llama.cpp nu sneller gebruiken op SYCL-compatibele GPU’s, zonder de software zelf te hoeven compileren.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.