Il team ggml-org ha pubblicato la versione b12363 di llama.cpp il 13 novembre 2026. L’aggiornamento aggiunge al backend Vulkan un’opzione per mantenere attivo il dispositivo, che permette di impostare per quanto tempo la GPU resta in funzione prima di spegnersi. La modifica affida la gestione del dispositivo al backend e semplifica il codice. Sono inclusi binari precompilati per macOS, iOS e diverse versioni di Ubuntu.
Perché conta
Gli sviluppatori possono eseguire chiamate ripetute ai modelli sulla GPU senza doverla reinizializzare a ogni utilizzo, migliorando i tempi di risposta delle app di IA locali.
