De opensourcebibliotheek llama.cpp bracht op 12 okt. 2026 versie b11560 uit. Die voegt IM2COL_3D-ondersteuning toe voor de Hexagon-NPU van Qualcomm, inclusief DMA-paden en verbeteringen in de verwerking van FP16. Ook zijn inefficiënte lussen verwijderd en is de threadafhandeling verbeterd. De update is beschikbaar als build voor uiteenlopende platforms, van macOS- en Windows-pc’s tot Android-apparaten met Snapdragon-processors, Adreno-GPU’s en Hexagon-NPU’s.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp-modellen nu sneller uitvoeren op Snapdragon-telefoons met een Hexagon-NPU.
