Oossa

llama.cpp b11790 versnelt repack op ARM-apparaten

De opensourcebibliotheek llama.cpp verscheen op 21 okt. 2026 als versie b11790, met neon-gevectoriseerde en multithreaded repack-ondersteuning voor ARM-processors.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het ggml-org-team bracht op 21 okt. 2026 llama.cpp versie b11790 uit. De update voegt neon-gevectoriseerde repack toe voor Q4_0-quantisatie en multithreading voor andere typen, wat de prestaties op ARM-processors verbetert. Er zijn nu vooraf gebouwde binaries beschikbaar voor macOS op Apple Silicon, iOS en diverse Linux-builds voor ARM. Een Qualcomm-ingenieur werkte mee aan de wijzigingen. De release bevat ook Vulkan-builds voor Linux x64 en arm64.

Waarom het ertoe doet

Laptops en telefoons met ARM-processors kunnen Llama-modellen sneller uitvoeren, waardoor lokaal gebruik van AI praktischer wordt.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.