Il team ggml-org ha rilasciato la versione b11784 di llama.cpp. L’aggiornamento corregge un crash nel backend Sycl iq3 e include binari precompilati per Apple Silicon, Mac Intel, iOS e diverse configurazioni di Ubuntu, tra cui Vulkan e CUDA 12.8. I binari sono disponibili per il download dalla pagina delle release su GitHub.
Perché conta
Gli sviluppatori possono ora usare llama.cpp su più hardware senza incorrere in crash, ampliando le possibilità di eseguire LLM in locale.