Oossa

llama.cpp v0.13 breidt DMA-ondersteuning uit voor snellere bewerkingen

De opensourcebibliotheek llama.cpp kreeg op 13 okt. 2026 een nieuwe versie, met uitgebreidere DMA-broadcasting voor binaire bewerkingen op meerdere platforms.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het team van ggml-org publiceerde op 13 okt. 2026 llama.cpp-release b11580. De update voegt uitgebreide ondersteuning voor scalaire DMA (directe geheugentoegang) toe aan binaire bewerkingen, waaronder nieuwe kernels voor herhalingen en complexe data. Ook zijn niet-DMA-paden opgeschoond en is ondersteuning toegevoegd voor niet-aaneengesloten strides. De wijzigingen gelden voor builds voor CPU, CUDA, Vulkan en Hexagon NPU op Linux, Windows, macOS en Android. Ontwikkelaars kunnen nu efficiëntere tensorberekeningen uitvoeren op apparaten van Apple Silicon tot Snapdragon-chips.

Waarom het ertoe doet

Ontwikkelaars kunnen llama.cpp-modellen sneller gebruiken op een grotere verscheidenheid aan hardware, waardoor de inferentietijd voor eindgebruikers afneemt.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.