Il team ggml-org ha pubblicato la versione b11777 di llama.cpp. L’aggiornamento trasforma l’output dei modelli Qwen da un tensore tridimensionale a uno bidimensionale, eliminando un passaggio finale di rimodellazione non necessario. La nuova versione include anche binari pronti all’uso per macOS (Apple Silicon e Intel), iOS e diverse versioni di Ubuntu, con opzioni Vulkan e CUDA.
Perché conta
Gli sviluppatori possono scaricare i nuovi binari ed eseguire LLM in locale su più dispositivi senza dover compilare il software dal codice sorgente.
