Oossa

llama.cpp v0.13 estende il supporto DMA per operazioni binarie più rapide

La libreria open source llama.cpp ha rilasciato una nuova versione il 13 ottobre 2026, ampliando la diffusione DMA per le operazioni binarie su più piattaforme.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il team ggml‑org ha pubblicato la release b11580 di llama.cpp il 13 ottobre 2026. L’aggiornamento estende il supporto DMA scalare (accesso diretto alla memoria) per le operazioni binarie, con nuovi kernel per repeat e dati complessi. Inoltre, semplifica i percorsi senza DMA e aggiunge il supporto per stride non contigui. Le modifiche riguardano le build per CPU, CUDA, Vulkan e NPU Hexagon su Linux, Windows, macOS e Android. Gli sviluppatori possono ora eseguire calcoli tensoriali più efficienti su dispositivi che vanno da Apple Silicon ai chip Snapdragon.

Perché conta

Gli sviluppatori possono eseguire i modelli llama.cpp più velocemente su una gamma più ampia di hardware, riducendo i tempi di inferenza per gli utenti finali.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.