Open source-biblioteket llama.cpp släppte version b11560 den 12 okt 2026. Den lägger till stöd för IM2COL_3D på Qualcomms Hexagon NPU, inklusive DMA-vägar och korrigeringar för FP16-hantering. Ändringen tar också bort ineffektiva loopar och förbättrar trådhanteringen. Uppdateringen finns som byggen för många plattformar, från macOS- och Windows-datorer till Android-enheter med Snapdragon-processorer, Adreno-GPU:er och Hexagon NPU:er.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp-modeller snabbare på Snapdragon-telefoner med en Hexagon NPU.
