La libreria open source llama.cpp ha rilasciato la versione b11680 il 16 ottobre 2026. L’aggiornamento rinnova il codice per le NPU Hexagon: elimina un espediente, introduce il repacking dei tensori per i pesi F16/F32/BF16 e aggiunge il supporto a get-rows a tasselli per Q5_K e ai tensori k-quant grezzi. Le modifiche ripuliscono anche numerosi kernel interni e migliorano le prestazioni su diversi backend, tra cui CPU, CUDA, Vulkan e dispositivi compatibili con Hexagon. Il progetto elenca build per macOS, Linux, Android, Windows e diverse configurazioni openEuler.
Perché conta
Gli sviluppatori possono eseguire i modelli llama.cpp in modo più efficiente su telefoni con chip Hexagon e altro hardware specializzato.
