Il team ggml-org ha rilasciato llama.cpp versione b11796. L’aggiornamento aggiunge un nuovo oggetto di stato per la funzione mtmd_gen. Include inoltre binari precompilati per macOS (Apple Silicon e Intel), iOS e diverse versioni di Ubuntu, con build per CPU, Vulkan e CUDA 12.8.
Perché conta
Gli sviluppatori possono ora usare llama.cpp su più hardware, in particolare sulle GPU con CUDA 12.8, senza doverlo compilare autonomamente.