Il team ggml‑org ha rilasciato llama.cpp versione b11792 il 2026‑10‑21. L’aggiornamento modifica la chiamata set_rows, consentendo ai dati di rimanere sulla GPU e migliorando la velocità per chi usa una GPU. Sono ora disponibili binari precompilati per macOS Apple Silicon, macOS Intel, iOS e diverse build di Ubuntu (CPU, Vulkan, CUDA 12.8). I link alla release sono pubblicati nella pagina del tag su GitHub.
Nelle note di rilascio, la modifica è descritta così: «place d2t by its set_rows use so it can stay on the GPU (#30912)».
Perché conta
Gli sviluppatori possono eseguire i modelli Llama più velocemente su GPU compatibili, evitando trasferimenti di dati aggiuntivi.
