Il team di ggml-org ha rilasciato la versione b11827 di llama.cpp. L’aggiornamento aggiunge kernel OpenCL per la conv2d depthwise, con supporto anche per le GPU Qualcomm Adreno. Sono ora disponibili binari precompilati per macOS Apple Silicon, macOS Intel, iOS e diverse piattaforme Ubuntu (CPU e Vulkan). Le modifiche sono state realizzate con contributi di OpenCode e di Li He, ingegnere di Qualcomm.
Perché conta
Gli sviluppatori possono ora eseguire più velocemente i modelli llama.cpp sui dispositivi con GPU OpenCL, ampliando le possibilità d’uso su hardware a basso consumo.
