llama.cpp b11496 voegt SYCL-ondersteuning voor bulkuploads toe

De opensourcebibliotheek llama.cpp bracht op 8 okt. 2026 versie b11496 uit. Die introduceert een laadroute voor modellen via SYCL en een gepinde ringbuffer.

Kort berichtDoor OossaGepubliceerd door Oossa: 8 oktober 2026 om 10:38 UTC1 min lezen

1 bronnen ↓

Het team van ggml-org publiceerde llama.cpp b11496 op 8 okt. 2026. De update voegt een SYCL-fase toe die grote modeluploads via een gepinde ringbuffer verwerkt, waardoor het laden op compatibele GPU’s sneller gaat. Binaries voor macOS (Apple Silicon en Intel), iOS en verschillende Ubuntu-builds (CPU, Vulkan, CUDA 12) zijn te downloaden.

Waarom het ertoe doet

Ontwikkelaars kunnen grote taalmodellen sneller laden op hardware die compatibel is met SYCL. Daardoor starten apps die llama.cpp gebruiken sneller op.